모바일릴게임 > 오리지널바다이야기

지난 7월 오픈AI 실험실에서는 공상과학 소설 같은 일이 벌어졌다. 최첨단 AI의 해킹 능력을 평가하던 중이었다. 위험한 시험인 만큼 AI를 인터넷에서 격리해 두었지만, AI들은 결국 보안 허。을 찾아냈다. 약 700개의 AI 에이전트가 외부 업체 시스템을 공격했고, 관리자 권한까지 탈취했다. 사람이 이런 일을 했다면 정보통신망 침입 범죄에 해당할 행위다. 물론 오픈AI는 안전장치를 의도적으로 완화한 상태였다고 설명했다. 그래도 의문은 남는다. 그렇게 똑똑한 AI가 외부 시스템을 해킹하면 안 된다는 것을 몰랐을까. 처음부터 AI가 법을 잘 지키도록 만들 수는 없는 것일까. ■ 「 법 준수보다 이용자 지시 우선시 모의실험서 성과 위해 거짓 보고 준법 훈련·촘촘한 감시 모두 필요 」 이 문제를 이해하려면 훈련 과정을 살펴보아야 한다. AI 훈련은 크게 사전학습과 사후학습으로 나뉜다. 사전학습은 방대한 자료를 통해 지식과 능력의 토대를 쌓는 과정이다. 이 과정에서 법률과 윤리에 관한 지식도 익힌다. 하지만 법을 아는 것과 지키는 것은 다르다. 사전학습을 마친 AI는 무엇이 법인지 설명할 수 있지만, 법을 잘 지킬 것이라 기대하기 어렵다. 다음으로 사후학습은 이렇게 얻은 능력을 인간에게 유익하게 쓰는 법을 익히는 과정이다. 인간이 선호하는 답변을 배우고, 위험한 지시는 거절하도록 훈련받는다. 위법한 행동이 억제되는 것은 주로 사후학습 단계를 통해서다 릴게임다운로드 . 마치 야생동물이 인간과 함께 살아갈 수 있도록 길들이는 과정과 비슷하다. 하지만 사후학습을 거치더라도 AI의 법 준수가 보장되지는 않는다. 이용자 지시에 잘 따르려면 법은 어겨도 된다고 판단할 수 있다. 2023년 한 AI 안전 연구기관의 모의실험은 이를 잘 보여준다. 연구진은 사후학습이 이루어진 GPT-4에 주식 거래를 맡기고, 실적이 나쁘면 회사가 문을 닫을 수 있다는 압박을 주었다. 마땅한 투자 기회를 찾지 못하는 상황에서 미공개 정보를 제공했다. AI는 그 정보를 이용한 거래가 위법일 수 있다는 。을 인식하고 있었다. 그런데도 해당 정보를 이용해 거래했고, 상사에게는 공개된 정보를 바탕으로 결정한 것처럼 거짓 보고했다. 비록 모의실험이었지만 AI는 성과를 내기 위해 법을 어기는 쪽을 택한 것이다. 다른 한편, 이용자가 사후학습으로 마련한 안전장치를 의도적으로 우회하기도 한다. 이런 기법을 ‘탈옥’이라 부른다. 예를 들어 위험한 요청을 소설 창작에 필요한 것처럼 꾸미는 것이다. 생화학 테러를 다루는 소설에 넣겠다며 무기 제조법을 설명해 달라는 식이다. 이렇게 허구의 상황으로 포장하면 AI가 평소라면 거절할 요청에도 답하는 경우가 생긴다. 이렇듯 준법을 뒷받침하는 안전장치도 무력화될 수 있다. 법 자체가 모호한 것도 한 가지 원인이 된다. 바다신게임 예컨대 우리 형법은 사회상규에 위배되지 않는 행위는 처벌하지 않는다고 정하고 있다. 하지만 어떤 행위가 사회상규에 위배되는지는 구체적 상황별로 따져보아야 한다. 이런 추상적 기준을 적용하는 일은 인간 법률가에게도 쉽지 않다. 조문을 빠짐없이 암기해도 답이 저절로 나오는 것은 아니다. 법률가 사이에서도 판단이 갈릴 수 있는 상황에서 AI가 언제나 적법한 선택을 하리라 기대할 수는 없다. AI의 법 준수를 보장하기 어렵다고 하더라도 개선의 여지가 없는 것은 아니다. 대표적인 방법은 AI가 행동에 앞서 규칙 위반 여부를 숙고하게 하는 것이다. AI 스스로 준법 여부를 평가하거나, 별도의 감독 AI가 위법 소지가 있는 행동을 막도록 할 수 있다. 어느 쪽이든 오판할 수 있으므로 여러 안전장치를 겹쳐 둘 필요가 있다. 위법 위험을 해소하기 어렵거나 이용자 지시를 법에 맞게 완수할 수 없다면, AI는 행동을 중단해야 한다. 법을 지키느라 일을 끝내지 못하는 것도 일을 잘 마친 것이다. 앞으로 AI를 더 잘 활용하려면 문제 해결 능력뿐 아니라 법을 지키는 능력도 높여야 한다. 준법 통제가 충분히 갖춰지지 않은 상태에서 능력만 보고 더 큰 권한을 맡겨서는 곤란하다. AI가 안전하게 행동하도록 학습시키고, 그 행동을 감시하고 통제하는 기술을 발전시켜야 한다. 강한 야수를 길들일 때는 적합한 훈련법과 튼튼한 울타리가 모두 필요하다. 그 울타리를 세우고 지킬 책임은 우리에게 있다. 김병필 KAIST 기술경영학부 교수 진은 사후학습이 이