추론 능력을 갖춘 AI는 예측 가능성이 떨어질 것이라고 일리야 수츠케버는 말합니다

인공지능 분야의 거장 중 한 명인 전 오픈AI 수석 과학자 일리야 수츠케버는 금요일에 추론 능력이 기술을 훨씬 덜 예측 가능하게 만들 것이라는 예측을 내놓았습니다.

구글의 GOOG 오리올 빈얄스, 쿠옥 레와 함께 2014년 발표한 논문((link))으로 '테스트 오브 타임' 상을 수상한 수츠케버는 AI의 지평에 큰 변화가 다가오고 있다고 말했습니다.

10년 전에 그의 팀이 탐구했던, 데이터를 확장하여 AI 시스템을 '사전 학습'하면 새로운 차원으로 끌어올릴 수 있다는 아이디어가 한계에 도달하기 시작했다고 그는 말했습니다. 더 많은 데이터와 컴퓨팅 성능 덕분에 2022년에 오픈AI가 출시한 ChatGPT는 전 세계의 찬사를 받았습니다.

"하지만 우리가 알고 있는 사전 훈련은 의심할 여지없이 끝날 것입니다."라고 밴쿠버에서 열린 NeurIPS 컨퍼런스에서 수천 명의 참석자 앞에서 서츠케버는 선언했습니다. 그는 "컴퓨팅은 성장하고 있지만 데이터는 성장하지 않고 있다"며 "인터넷은 단 하나뿐이기 때문"이라고 말했습니다

서츠케버는 이러한 난관에도 불구하고 새로운 영역을 개척할 수 있는 몇 가지 방법을 제시했습니다. 그는 기술 자체가 새로운 데이터를 생성하거나 AI 모델이 여러 답변((link))을 평가한 후 사용자에게 가장 적합한 답변을 결정하여 정확도를 높일 수 있다고 말했습니다. 다른 과학자들도 실제 데이터에 주목하고 있습니다.

그러나 그의 강연은 초지능 기계의 미래에 대한 예측에서 정점을 찍었는데, 그는 "분명히" 다가올 것이라고 말했지만 일부 사람들은 이에 동의하지 않았습니다. 서츠케버는 올해 세이프 슈퍼인텔리전스((link))를 공동 설립했는데, 샘 알트먼이 얼마 지나지 않아 OpenAI에서 쫓겨난 후 며칠 만에 후회했다고 말했습니다.

그는 오랫동안 연구해 온 AI 에이전트가 미래에는 더 깊은 이해력을 갖추고 스스로 인식할 수 있는 시대가 올 것이라고 말했습니다. 그는 AI가 인간처럼 문제를 추론할 수 있을 것이라고 말했습니다.

하지만 문제가 있습니다.

"더 많이 추론할수록 예측할 수 없게 됩니다."라고 그는 말했습니다.

수백만 개의 옵션을 통해 추론하면 어떤 결과가 나올지 알 수 없습니다. 일례로 알파벳의 딥마인드가 개발한 시스템인 알파고는 2016년 이세돌과의 대국에서 37번째 수에서 이해할 수 없는 수를 두어 고도로 복잡한 보드 게임 전문가들을 놀라게 했습니다.

서트케버는 "정말 뛰어난 체스 AI는 최고의 인간 체스 기사도 예측할 수 없다"고 비슷한 말을 했습니다

우리가 알고 있는 AI는 "근본적으로 달라질 것"이라고 그는 말했습니다