오픈AI, AI 장기리스크 대비 안전팀 해체…경영진 갈등 후폭풍?
팀 이끈 수츠케버·레이케 회사 떠나…회사 우선순위 의견 달라
보스톤코리아  2024-05-18, 08:42:39 
(샌프란시스코=연합뉴스) 김태종 특파원 = 챗GPT 개발사 오픈AI가 인공지능(AI)의 장기적인 위험에 대해 연구하는 안전(safety)팀을 사실상 해체했다고 블룸버그 통신 등이 17일(현지시간) 소식통을 인용해 보도했다.

소식통은 오픈AI의 슈퍼얼라이먼트(superalignment) 팀 일부가 다른 팀으로 재배치되고 있다고 전했다.

이 팀은 미래 다가올 초지능 AI를 제어함으로써 인간에게 유용하고 해롭지 않은 방식으로 행동하도록 연구하는 안전팀이다.

작년 7월 설치된 이 팀은 "우리보다 훨씬 더 똑똑한 AI 시스템을 조종하고 제어하기 위한 과학적이고 기술적인 연구에 초점을 맞추고 있다"고 밝힌 바 있다.

특히, 이 팀의 해체는 오픈AI의 공동 창립자 일리야 수츠케버 등 팀을 이끈 인력이 잇따라 회사를 떠난 지 며칠 만에 나왔다.

오픈AI의 수석과학자로 일해 온 수츠케버는 지난 14일 "오픈AI를 떠나기로 결정했다"고 밝혔다. 수츠케버는 지난해 11월 올트먼 축축 사태를 주도한 바 있다.

수츠케버에 이어 또다른 임원인 얀 레이케도 회사를 떠났다. 수츠케버와 레이케는 슈퍼얼라이먼트 팀을 이끌어왔다.

이들이 연이어 사임하면서 올트먼 등 다른 경영진과 갈등에 따른 것이라는 관측이 제기되기도 했다.

수츠케버는 지난해 올트먼 축출 당시 AI의 위험성에 대해 충분한 주의를 기울이지 않은 채 오픈AI의 사업을 구축하는 데만 집중한다고 우려했던 것으로 전해졌다.

그는 회사를 떠나면서 "나는 오픈AI가 올트먼 등의 리더십 아래 안전하고 유익한 AIG(범용 인공지능)를 구축할 것으로 확신한다"고 밝혔다.

레이케는 "나는 오픈AI가 이 연구(초정렬)를 하기 가장 좋은 장소가 될 것으로 생각했었다"며 "그러나 오랫동안 회사의 핵심 우선순위에 대해 경영진과 의견이 달랐다"고 토로했다.

이어 "인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력"이라며 "오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만, 지난 몇 년간 안전 문화와 프로세스는 제품 뒷전으로 밀려났다"고 지적했다.

이들 외에 앞서 다른 팀원들도 회사를 떠난 것으로 전해졌다.

이에 대해 오픈AI는 "우리는 이 팀을 독립체로 유지하기보다 안전이라는 목표를 달성하도록 돕기 위해 연구 전반에 걸쳐 통합하고 있다"고 설명했다.

또 오픈AI 공동 창업자 중 한 명인 존 슐먼이 AI 정렬 연구(사람이 의도한 목표와 윤리적 원칙에 맞게 AI 시스템을 조정)를 위한 리더가 될 것이라고 덧붙였다.

taejong75@yna.co.kr




ⓒ 보스톤코리아(http://www.bostonkorea.com), 무단전재 및 재배포 금지
의견목록    [의견수 : 0]
등록된 의견이 없습니다.
이메일
비밀번호
금리 인하 기대감에 전세계 '불장'…14곳 증시 최고치 행진 2024.05.19
미국 연방준비제도(Fed·연준)의 금리 인하 기대감이 높아지는 가운데 미국을 비롯해 유럽, 아시아 주요국 증시가 잇달아 최고치를 경신하고 있다.18일..
미·유럽, 이란 대통령 헬기 사고에 촉각…"주시하고 있다" 2024.05.19
(워싱턴=연합뉴스) 김경희 특파원 = 미국과 유럽은 19일(현지시간) 에브라힘 라이시 이란 대통령이 탄 헬기가 비상착륙해 생사를 확인 중이라는 보도에 촉각을 곤두..
오픈AI, AI 장기리스크 대비 안전팀 해체…경영진 갈등 후폭풍? 2024.05.18
(샌프란시스코=연합뉴스) 김태종 특파원 = 챗GPT 개발사 오픈AI가 인공지능(AI)의 장기적인 위험에 대해 연구하는 안전(safety)팀을 사실상 해체했다고 블..
테슬라, 중국에 데이터센터 구축 추진…자율주행 학습용 2024.05.18
(로스앤젤레스=연합뉴스) 임미나 특파원 = 미국 전기차업체 테슬라가 중국에 자율주행 학습용 데이터를 저장하고 처리하기 위한 데이터센터 구축을 추진하고 있다고 로이..
뉴욕증시 '역대 최고' 다우의 날…다우 첫 4만선 돌파 마감 2024.05.17
(뉴욕=연합뉴스) 정선영 연합인포맥스 특파원 = 뉴욕증시는 다우존스30산업평균지수가 종가 기준으로 4만선을 돌파한 가운데 혼조세를 보였다.17일(현지시간) 뉴욕증..