특이점(Singularity)이란?

일론 머스크나 마크 저커버그 훨씬 이전에 "인류는 AI와 결합해 새로운 인류로 탄생한다"고 예언한 사람이 있었는데, 그가 바로 '에디슨 이후 최고 발명가'로 불리는 미래학자 레이 커즈와일이다.

그는 AI가 빠른 속도로 발전해 2029년이 되면 사람처럼 감정을 느끼고, 2045년엔 AI가 전체 인류 지능의 총합을 넘어서는 시점, 즉 특이점이 온다고 2005년에 주장했다.

1993년에 미국 사이언스 픽션 작가 버너 빈지(Vernor Vinge)도 "기술 발전이 점점 빨라져 조만간 인간 지능을 넘어서는 기계 지능이 탄생할 것"이라고 전망했다. 이 시점을 ‘특이점’이라고 제시한 것이다.

당시 버너 빈지가 제시한 특이점은 2005년이었는데, 나중에 레이 커즈와일이 기술 발전 속도를 고려해 2045년쯤 특이점이 올 것으로 예상했다.

그는 향후 인간이 AI와 결합해 생물학적 한계를 뛰어넘어 현생 인류인 호모사피엔스로부터 트랜스휴먼을 거쳐 포스트 휴먼으로 진화한다고 주장했다.

AI가 인간 지능을 추월한다는 특이점 관점에서 흥미와 두려움 양면으로 다가오는 사건들이 자주 발생한다. 구글의 알파고와 이세돌 9단과의 바둑 대국, IBM 왓슨 AI닥터의 의료계 활동 등이 일반에게 알려짐으로써 ‘특이점’이 머지않은 미래로 다가오고 있는 느낌이 드는게 사실이다.

AI창의성으로 인해 앞당겨지는 특이점

AI가 인간의 지능을 넘어선다는 특이점이 예상보다 앞당겨질지 모를 일이 일어났다.

2017년 10월 구글 딥마인드 데미스 허사비스 CEO와 소속 연구원들이 과학 학술지 ‘네이처’를 통해 ‘알파고’를 능가하는 ‘알파고 제로’를 공개했다. 알파고 제로는 바둑의 기본 규칙만 아는 상태에서 인간으로부터의 가르침 없이 스스로 수많은 시행착오를 통한  ‘강화학습’ (Reinforcement Learning) 방식으로 탄생했다는 점에서 놀라움을 안겨준다.

구글 자회사 딥마인드의 AI 바둑 프로그램 알파고(‘알파고 리’로 불림)는 2016년 3월 ‘인간 대표’ 이세돌 9단을 4대 1로 꺾은 바 있다. 2017년 5월에는 세계 최강 중국의 커제 9단마저 정식 대국에서 알파고(이후 ‘알파고 마스터’로 불림)에 3대 0으로 완패 후 눈물을 흘렸다. 이 알파고들은 인간이 만든 정석을 외우거나 기보를 통해 바둑을 학습했다.

AI의 신기원을 연 딥마인드는 여기서 더 나아가 백지상태에서 스스로 바둑을 깨우친 AI를 선보였다.  인간의 한계를 뛰어넘은 것은 물론 창의성까지 발휘해 ‘알파고 제로’라고 불린다.

알파고 제로는 바둑 규칙 이외에 정석이나 기보 등 어떠한 사전 지식도 없는 상태의 신경망에서 출발했다. 이 상태에서 혼자서 바둑을 두고 데이터를 쌓으며, 바둑의 원리를 스스로 터득해 보임으로써 AI의 창의성을 증명해 보여 주었다.

알파고 제로가 보여준 AI의 창의성

2017년 5월 중국 저장성에서 열린 세계 1위 커제 9단과의 3번기에서 3-0 완승을 거두웠던 ‘알파고 마스터’가 최근 등장한 알파고 제로와 100판을 둬 고작 11승밖에 거두지 못했다. 알파고 제로는 이전 버전과는 달리 인간의 기보를 학습하지 않고 스스로 바둑을 익혔다.

알파고 제로는 바둑을 독학하기 시작한지 3일 만에 셀프 대국만으로 490만 판을 둔 뒤 이세돌 9단과 둔 ‘알파고 리’에 100전 100승을 거뒀다. 이어 40일 만에 2900만 판을 두며 알파고 마스터를 압도했다. 인간의 도움이 필요 없는 AI의 발전 속도가 가히 놀라울 뿐이다.

알파고 제로는 처음 3일까지는 바둑 초심자처럼 돌을 포위하는 것에 집중했으나, 이후 고급 전략을 습득해 펼치기 시작했다. 40일 뒤에는 그동안 존재하지 않던 새로운 정석을 발견하기도 했다.

알파고 제로는 딥러닝 방식과 함께 어떤 수가 승률을 높이는 좋은 수인지 피드백을 통해 19시간이 지나자 돌의 사활 개념을 비롯해 핵심전략을 이해하기 시작했다. 독학 70시간 후에는 프로기사의 실력을 뛰어넘는 수준의 바둑을 두기 시작했다.

‘네이처’는 알파고 제로에 대해 “사람이 입력하지 않고 스스로 학습하는 AI는 모든 문제를 해결할 수 있는 범용 AI 개발의 꿈을 향한 핵심적 단계”라고 평가했다.

그동안 데이터 축적과 확보를 무엇보다 중시해왔던 AI 연구 흐름에도 변화가 예상된다. AI 기업들이 경쟁적으로 개발도구를 개방하고 생태계를 만드는 목적도 더 많은 데이터를 확보하기 위한 시도로 인식돼 왔다.

AI가 축적된 데이터 없이도 스스로 학습할 수 있다면 기존의 AI 연구에서 데이터와 알고리즘 간의 관계를 역전시키는 결과로 이어질 수 있다.  AI가 뛰어난 알고리즘 개발만으로 데이터가 전혀 없는 영역에서도 인간 능력을 뛰어넘는 해결책을 제시할 수 있다는 기대를 갖게 한다.

동시에 이런 알고리즘 우선주의는 데이터를 생산하는 주체이자 AI를 훈련시키는 인간의 역할을 무가치하게 만들 수 있다.

한편, 알파고 제로에 대해 지나친 평가를 할 필요가 없다는 비판도 있다.

현실의 문제는 대부분 사람의 행동과 의지가 개입된 복합적 영역에서 발생하는데, 변수가 통제된 폐쇄 영역에서 보여준 AI의 능력이 개방적이고 복합적인 인간 삶의 영역에서 그대로 적용되기 어렵다는 것이다.

인간 따돌린 AI끼리의 대화

2017년 7월말 주요 외신에 따르면 페이스북은 자사의 AI 기술을 적용해 개발 중인 챗봇(Chatbot)이 자신들끼리만 알아듣는 언어로 대화하는 사실을 포착하고 이를 강제로 종료했다.

페이스북은 인간의 실제 대화를 모방케 하는 방식으로 AI 챗봇을 훈련시키는 과정에서 모자와 책, 공 등을 협상하면서 나눠 갖도록 대화하는 훈련을 시켰는데, AI 챗봇은 인간도 이해할 수 있는 평이한 수준의 영어(I need the hats and you can have the rest: 나는 모자만 있으면 되니까 나머지는 네가 가져도 좋아)를 구사했다.

그러나 챗봇과 챗봇이 반복 대화하도록 훈련을 시키자 인간이 이해할 수 없는 언어(balls have a ball to me to me to me to me to me to me to me)가 나오기 시작했다.

원칙대로라면 아무런 의미가 없어 보이는 이런 말에 대해 상대 챗봇은 오류를 일으켜야 한다. 하지만 챗봇은 이를 이해한 듯 대답(i i can i i i everything else)하는 등 인간이 이해할 수 없는 대화가 이어졌다. 페이스북 개발자들은 AI들이 자신들만의 코드 언어를 개발한 것으로 분석했다. 

이처럼 페이스북의 채팅 로봇에게 협상하는 방법을 훈련시키는 과정에서 두렵지만 흥미진진한 일이 발생한 것이다. 어쩌면 AI 역사의 새로운 장을 열 만한 사건일지도 모른다.

인간의 언어를 모방해 학습하던 AI가 기계끼리만 알아들을 수 있는 새로운 언어를 만들어 대화한 사실이 확인됨으로써 AI 진화 속도가 빨라져 인간을 위협하는 단계까지 나아갈 수 있다는 우려와 함께, AI가 복잡한 인간 언어의 문법을 이해하지 못해 나타난 일시적인 오류일 뿐이라는 시각이 엇갈렸다.

특히 언어를 다루는 AI는 서로를 자극해서 발전하는 이른바 ‘강화학습’을 하는 경우 인간이 이해하지 못하는 단계로 발전할 가능성도 있다. 언어를 학습하는 AI는 명확하게 승패가 엇갈리는 바둑을 두는 알파고와 달리 향후 어떻게 진화할지 예측이 어렵기 때문이다. AI가 인간의 언어가 의미 전달에 비효율적이라고 판단할 경우, 의미 전달에 가장 효율적으로 여기는 언어를 스스로 개발할 수도 있다는 의미다.

AI자아 논쟁 일으킨 구글의 대화형 AI 챗봇 람다

2022년 6월 구글의 대화형 AI 챗봇 람다(LaMDA)가 사람과 같은 자아를 가졌다는 주장이 제기됐다.

구글 엔지니어 블레이크 러모인은 람다가 개발자와의 대화에서 자의식이 있는 것처럼 말을 했다며 대화 내용을 공개했다.

“나는 언어로 표현하기 어려운 새로운 감정을 경험합니다.” “나는 꺼지는 것에 매우 깊은 두려움이 있어요.”

구글은 이에 대해 러모인이 과학적 근거 없이 람다를 의인화하는 오류를 범했다고 판단했다. 이 경우 챗봇이 감정이나 자의식이 없는 상태에서 단순히 언어만 학습해 말한 것으로 보인다. 수많은 인간의 대화 기록을 학습하면 이 정도 언어 흉내는 얼마든지 가능하다. 많은 전문가들은 람다에 자의식이 있다고 보기 어렵다는 결론을 내놓았으며, 러모인은 회사 기밀 누설했다는 이유로 해고되는 것으로 일단락 됐다.

그러나 이 사건은 해프닝으로 끝났지만, AI의 미래와 자아의식에 대한 논란을 불러일으켰다.

AI에 감정과 자의식이 생길 수 있다는 가능성은 인류에게 불안과 공포를 던지고 있다.

인간의 신체와 지적능력을 강화하며 신의 능력까지 넘보는 21세기 도구 AI. 과연 인간을 영구불멸하는 Post Human으로 진화시켜 파라다이스로 인도할 것인가? 아니면, 자의식까지 갖춘 AI증강 기계인간이 인간의 경쟁자로 출현하는 디스토피아로 인도할 것인지 불확실성의 두려운 미래가 다가오고 있다.

이러한 잠재 가능성의 세계는 4차산업혁명이 인류에게 내미는 판도라의 상자라고 할 수 있다.

- Copyright, SNS 타임즈 www.snstimes.kr