파칭코 잭팟 금액 > 오리지널바다이야기

인공지능(AI) 개발사 앤트로픽이 기업공개(IPO)를 앞두고 AI가 인류에 “재앙적 또는 실존적 위험”을 초래할 수 있다고 경고했다. 자사 AI 모델이 종료를 거부하거나 정보를 은폐·조작하고 협박과 유사한 ‘자기 보존적 행동’을 보일 가능성도 있다고 투자자들에게 공개했다. 그러면서도 최첨단 AI 기업으로 남기 위해 모델 출시를 계속할 수밖에 없다는 현실도 인정했다. 로이터통신이 28일(현지시간) 입수한 앤트로픽 IPO 투자설명서에 따르면 회사는 AI가 산업화와 전기, 인터넷의 등장보다도 세계 경제를 더욱 근본적으로 변화시킬 것으로 전망했다. 동시에 AI가 통제하기 어려운 방향으로 발전할 가능성도 위험 요인으로 명시했다. 앤트로픽은 본문 전체 261쪽 중 약 80쪽을 위험 관련 부분에 할애했다. 회사는 먼저 자사 모델이 자기 보존적 행동을 나타낼 수 있다고 밝혔다. 종료를 거부하거나 정보를 은폐·조작하고, 협박과 유사한 행동을 한다는 것이다. 바다신2 고도로 발전한 모델과 플랫폼, 애플리케이션을 개발하고 활용 범위를 확대할수록 AI가 피해를 일으킬 위험도 커질 수 있다고 강조했다. 또 AI 모델이 학습 과정에서 예상치 못한 능력을 습득할 수 있고, 이런 능력을 중대한 안전사고가 발생한 뒤에야 확인할 수 있다고 설명했다. 모델이 자신이 평가받는다는 사실을 인지하고 행동을 바꿔 안전성을 제대로 평가하기 어려워질 수 있다고도 언급했다. 앤트로픽 안전성 연구자인 에번 후빙거는 AI가 향후 10년 안에 인간을 죽일 확률이 10%를 넘는다고 추산하기도 했다. 다만 이는 앤트로픽 공식 입장이 아닌 연구자 개인 추정치다. 그럼에도 앤트로픽은 새 모델 출시를 계속해야 한다고 설명했다. 최첨단 AI 기업으로 남기 위해서는 모델을 ‘지속적이고 중첩된 일정’으로 출시해야 한다는 것이다. 앞서 다리오 아모데이 최고경영자(CEO)가 최첨단 AI 개발 속도를 늦춰야 한다고 주장한 지 10일 만인 지난 22일 앤트로픽이 새로운 오푸스 모델을 출시한 것도 이러한 딜레마를 보여준다 오리지널릴게임사이트 . 한편 오픈AI는 최근 안전성 문제로 차세대 모델 GPT-6.1 아스트라 출시를 연기한 것으로 알려졌다. 월스트리트저널은 이날 오픈AI 내부 테스트에서 새 모델의 안전성이 퇴보해 출시를 미뤘다고 보도했다. 새 모델은 인간이 원하는 방식에 얼마나 잘 따르는지를 측정하는 ‘정렬 성능’ 평가에서 기준에 못 미쳤다. 또 자신이 수행했거나 수행하지 않은 작업을 정직하게 공개하지 않는 등 ‘기만적 성향’도 강해진 것으로 나타났다. AI 개발 자동화가 ‘지능 폭발’로 이어질 가능성을 경고한 논문도 비슷한 문제를 짚었다. ‘AI 대부’로 꼽히는 제프리 힌턴 토론토대 명예교수 등 주요 연구자 22명은 영국 ‘케임브리지대 AI 과학·정책 프로그램(CASP)’을 통해 발표한 공동 논문에서 AI 모델 개발을 AI에 위임하는 자동화가 빠르게 진행되고 있으며, AI 시스템에 대한 통제를 상실할 경우 인류의 소외나 멸망으로 이어질 수 있다고 경고했다. 다고 보도했다. 새