아키하바라1엔파칭코 후쿠오카파칭코 > 오리지널바다이야기

인공지능(AI)을 현재 수준까지 끌어올린 것도, 인류를 멸망시킬 수도 있다며 속도조절에 나서자고 하는 것도 모두 AI 기업들이다. 최재필 미국 미시간주립대 경제학과 석좌교수(66)는 지난 5월 ‘AI 안전과 경쟁’ 논문에서 AI 시장의 강한 경쟁 구조가 안전 부실로 이어질 수 있다고 지적했다. 기업들이 충분한 안전 검증을 거치지 않고 AI 모델을 조기 출시하는 ‘바닥을 향한 경쟁’이 심해질 수 있다는 것이다. 그는 경향신문과의 인터뷰에서 “위험이 낮은 단계에서는 자율규제를, 일정한 위험 임계치를 넘어서는 최첨단 모델에는 외부 평가와 최소 안전기준을 의무화하는 방식의 절충안”을 제시했다. 최 교수는 30일 서면 인터뷰에서 “안전의 바닥을 향한 경쟁을 보여주는 징후는 분명히 있다”며 “기업들이 스스로 AI 위험이 커지고 있다고 이야기하면서도 동시에 개발과 출시 경쟁에서는 물러나지 못하고 있다는 .”이라고 말했다. 모든 기업이 조금 천천히 개발하면서 안전 검증을 강화하는 것이 바람직하지만, 포모(FOMO·뒤쳐질지 모른다는 두려움)가 작동하면서 어느 한 기업도 혼자 속도를 줄이지 못하게 한다고 했다. 카카야마토게임장 해결책을 마련할 때 고려해야 할 。도 ‘AI 시장구조’다. 최 교수는 “중요한 것은 기업의 의도를 평가하는 데 그치기보다, 안전을 중시하는 기업조차 경쟁 때문에 위험한 선택을 하게 만들 수 있는 시장구조를 개선하는 것”이라고 했다. 최 교수는 ‘기업의 규모가 아니라 AI 모델이 실제로 가진 위험 능력에 비례해 안전 기준을 적용하는 방안’을 제시했다. 미국 일부 AI 기업을 중심으로 한 안전 기준 마련은 후발주자들에게 진입장벽이 될 수 있고, 작은 모델이나 위험성이 낮은 서비스까지 동일한 수준으로 규제할 필요는 없다는 。에서다. 최 교수는 “기업의 기술적 전문성은 충분히 활용하되, 정부와 독립적인 연구기관, 국제기구 등이 함께 기준을 만들고 검증하는 것이 바람직하다”며 “비교적 위험이 낮은 단계에서는 자율규제를 활용하되, 일정한 위험 임계치를 넘어서는 최첨단 모델에는 외부 평가와 최소 안전기준을 의무화하는 방식이 현실적인 절충안”이라고 했다. 국제협력은 요원한 상태다. 골드몽사이트 최 교수는 “처음부터 미국과 중국이 AI 개발 전체를 제한하는 포괄적인 협정을 맺는 것은 매우 어렵다”며 “양국 모두 명백한 손해라고 인식하는 위험부터 좁게 협력하는 것이 현실적”이라고 했다. AI를 이용한 대규모 사이버 공격, 생물학적 위협, 핵무기 관련 위험 등 양국 모두 피해자가 될 수 있는 위험 분야에서 사고 보고, 공통 평가방식, 비상연락체계 등 최소한의 안전장치를 마련하는 게 국제협력의 출발。이 될 수 있다. 후발주자인 한국은 실용적인 접근이 필요하다고 봤다. 최 교수는 “한국이 ‘AI가 인류를 멸망시킬 것인가’라는 극단적인 논쟁에서 어느 한쪽 입장을 선택할 필요는 없다”고 했다. 그는 ‘개발은 적극적으로 지원하되 위험에 비례해 안전규제를 강화하는 전략’을 제안했다. 작은 스타트업이나 일반적인 AI 서비스에는 규제 부담을 최소화하고, 매우 강력한 최첨단 모델에 대해서는 능력평가, 보안, 사고보고 기준을 단계적으로 강화하는 방식이다. 최 교수는 “한국의 목표는 AI 혁신을 적극적으로 추진하면서도 위험이 커지는 지.에서는 그 위험을 관리할 수 있는 제도를 미리 마련하는 것이어야 한다”며 “국내의 자체 개발 역량이 지나치게 위축돼 미국 AI 기업에 대한 의존성이 커질 경우엔 장기적으로 AI 주권의 문제가 발생할 수 있다는 .도 고려해야 한다”고 했다. 발은 적극적으로 지