통화종료자동문자 노벨 물리학상 수상 힌튼 등AI 과학자들 공동성명 발표“인간 통제 불능 위험 커”英 해리왕자 등 3천명 동참 [이미지=픽사베이]노벨상 수상자와 기술 거물, 전직 미국 고위 관리, 영국 왕실 인사들이 현존하는 인공지능(AI)보다 뛰어난 ‘초지능(superintelligence)’ 개발을 중단하라고 촉구했다. 인간의 모든 인지 능력을 넘어서는 AI의 등장이 통제 불능의 위험을 초래할 수 있다는 경고다.22일(현지시간) 공개된 공동성명에는 리처드 브랜슨 버진그룹 창업자, 스티브 워즈니악 애플 공동창업자, 오슈아 벤지오 캐나다 몬트리올대 교수를 비롯해 작년 노벨 물리학상 공동 수상자인 제프리 힌턴 캐나다 토론토대 석좌교수 등 AI ‘대부’로 불리는 과학자들이 다수 이름을 올렸다. 이들은 “초지능은 인간의 경제적 역할과 자유, 존엄, 통제권을 잃게 할 뿐 아니라 국가안보와 인류 생존 자체를 위협할 수 있다”라며 “안전하게 설계, 통제할 수 있다는 과학적 합의와 사회적 지지가 형성되기 전까지 개발을 금지해야 한다”라고 주장했다.이번 성명은 기술계뿐 아니라 정치, 종교, 언론계 인사 등 폭넓은 연대 속에 발표됐다. 전 합참의장 마이클 멀린, 수전 라이스 전 백악관 안보보좌관, 전 트럼프 보좌관 스티브 배넌, 방송인 글렌 벡, 해리 왕자 부부, 메건 마클 공작부인, 메리 로빈슨 전 아일랜드 대통령 등이 서명자 명단에 포함됐다. 서명자는 빠르게 늘어나면서 현지시간 22일 오후 9시 3200명을 넘어섰다.오픈AI와 메타, xAI 등 기업들이 개발하고 있는 초지능은 모든 영역에서 인간을 뛰어넘는 지능을 가진 AI를 의미한다. 메타는 초지능 구축을 위해 지난해 150억 달러를 투입해 ‘초지능랩’을 신설했고 오픈AI는 최신 AI 모델인 GPT-5를 출시하면서 범용AI(AGI)를 향한 연구를 가속화하고 있다.벤지오 교수는 성명에서 “몇 년 안에 AI가 대부분의 인지 영역에서 인간을 능가할 수 있다”라며 “이를 안전하게 발전시키려면 인간을 해치지 않는 구조를 과학적으로 증명해야 한다”라고 말했다. 그는 이어 “이 기술이 인류의 미래를 결정할 문제인 만큼노벨 물리학상 수상 힌튼 등AI 과학자들 공동성명 발표“인간 통제 불능 위험 커”英 해리왕자 등 3천명 동참 [이미지=픽사베이]노벨상 수상자와 기술 거물, 전직 미국 고위 관리, 영국 왕실 인사들이 현존하는 인공지능(AI)보다 뛰어난 ‘초지능(superintelligence)’ 개발을 중단하라고 촉구했다. 인간의 모든 인지 능력을 넘어서는 AI의 등장이 통제 불능의 위험을 초래할 수 있다는 경고다.22일(현지시간) 공개된 공동성명에는 리처드 브랜슨 버진그룹 창업자, 스티브 워즈니악 애플 공동창업자, 오슈아 벤지오 캐나다 몬트리올대 교수를 비롯해 작년 노벨 물리학상 공동 수상자인 제프리 힌턴 캐나다 토론토대 석좌교수 등 AI ‘대부’로 불리는 과학자들이 다수 이름을 올렸다. 이들은 “초지능은 인간의 경제적 역할과 자유, 존엄, 통제권을 잃게 할 뿐 아니라 국가안보와 인류 생존 자체를 위협할 수 있다”라며 “안전하게 설계, 통제할 수 있다는 과학적 합의와 사회적 지지가 형성되기 전까지 개발을 금지해야 한다”라고 주장했다.이번 성명은 기술계뿐 아니라 정치, 종교, 언론계 인사 등 폭넓은 연대 속에 발표됐다. 전 합참의장 마이클 멀린, 수전 라이스 전 백악관 안보보좌관, 전 트럼프 보좌관 스티브 배넌, 방송인 글렌 벡, 해리 왕자 부부, 메건 마클 공작부인, 메리 로빈슨 전 아일랜드 대통령 등이 서명자 명단에 포함됐다. 서명자는 빠르게 늘어나면서 현지시간 22일 오후 9시 3200명을 넘어섰다.오픈AI와 메타, xAI 등 기업들이 개발하고 있는 초지능은 모든 영역에서 인간을 뛰어넘는 지능을 가진 AI를 의미한다. 메타는 초지능 구축을 위해 지난해 150억 달러를 투입해 ‘초지능랩’을 신설했고 오픈AI는 최신 AI 모델인 GPT-5를 출시하면서 범용AI(AGI)를 향한 연구를 가속화하고 있다.벤지오 교수는 성명에서 “몇 년 안에 AI가 대부분의 인지 영역에서 인간을 능가할 수 있다”라며 “이를 안전하게 발전시키려면 인간을 해치지 않는 구조를 과학적으로 증명해야 한다”라고 말했다. 그는 이어 “이 기술이 인류의 미래를 통화종료자동문자