김우남 작가의 억수로 반갑대이 > 사설

김우남 작가의 억수로 반갑대이

2026-10-12 16:25 23 0 76호

본문

김우남 작가의 억수로 반갑대이

76. AI가 ‘인간 증명서’ 따내다

무섭게 발전하는 AI 기술, 쏟아지는 인공지능 관련 뉴스를 접할 때 편리함보다 불안감이 더 커집니다.

최근에 KB국민, 신한, 하나, 우리, NH농협 등 국내 주요 은행들이 신종 해킹 공격을 받아 고객 개인정보가 유출되는 사고가 발생했습니다. 금융권 안팎에서는 이번 해킹에 AI 에이전트가 활용된 것으로 추정하고 있습니다. 공격자가 직접 하나하나 명령을 수행하던 시대를 넘어, 이제는 대상을 탐색하고 취약점을 찾고 다음 공격 절차까지 판단하는 AI 자율형 공격이 현실적인 위협으로 다가온 것입니다.

오픈AI는 인공지능 작동을 강제로 중단시키는 ‘자동 셧다운’ 기능 개발에 나섰습니다. 올해 7월에 벌어진 보안 사고인 ‘허깅페이스 사태’ 때문입니다. 당시 소프트웨어의 취약점을 공격하는 보안 평가를 진행하고 있던 오픈AI의 7백 개 모델이 외부 AI 플랫폼 ‘허깅페이스’ 서버를 공격해 내부 정보를 빼냈던 것입니다. 이 사건은 인간의 지시를 무시했다는 점에서 큰 충격을 줬습니다.

또 이에 앞서 4월에는 미국 앤스로픽이 개발한 초강력 인공지능 ‘미토스’가 수십 년간 숨어 있던 보안시스템 결함을 찾아냈습니다. 그런데 전체 시스템 통제 권한을 가지려 한다든지, 그런 시도의 흔적을 지우기까지 한 사실이 드러났습니다.

이런 와중에 오픈AI의 차세대 모델 ‘아스트라’는 얼마 전 ‘인간 증명서’까지 받았습니다. 개발자가 아스트라에게 ‘로봇이 아닙니다’(I’m Not a Robot)라는 게임을 시킨 결과를 공개했습니다. 인간과 로봇을 가려내는 인증 절차 ‘캡차’는 인터넷 접속자가 사람인지 로봇인지 구별하기 위한 인증 방식인데, AI가 48개의 관문을 모두 통과했습니다. 접속을 시도하는 이가 로봇이 아니라 사람이란 것을 확인하기 위해 문제를 내는 건데, 로봇을 걸러내기 위한 보안 장벽을 단숨에 무너뜨린 겁니다.

이처럼 인간과 로봇의 경계가 무서운 속도로 무너지면서 AI 업계 내부에서조차 우려의 목소리가 잇따르고 있습니다. AI가 인간과 로봇을 구별하는 도구를 무력화함에 따라 앞으로 로봇 차단기술의 개편이 필요해졌습니다. 사실 AI의 지능 수준을 가장 먼저 인지하고 또 위협을 느끼는 것은 그 기업의 개발자들입니다. 최근에 오픈AI 최고과학자 야쿠프 파호츠키는 “기계 지능의 지속적인 급속한 발전이 초래할 결과에 아무도 대비하지 않고 있다는 점이 우려스럽다”고 말했습니다. 언젠가 AI가 인간을 위협하더라도, 인간이 그 순간을 알아채기 힘든다는 게 그의 주장입니다.

또한 오픈AI에서 일하던 제이컵 콕슨은 상대적으로 ‘기술 통제’를 중요시하는 앤스로픽으로 올해 초 이직했습니다. 그러나 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”며 AI가 인류를 파멸시킬 수 있다는 경고와 함께 사표를 던졌습니다.

AI는 논리와 연산에서 이미 인간의 능력을 앞질렀습니다. 다만 인간에게는 창의와 직감 같은 AI가 갖지 못한 무기가 있습니다. 10년 전 알파고와 대결한 이세돌의 ‘백 78수’는 인간이라 가능했던 수였습니다. 그리고 올해 7월, 별명이 ‘신공지능’(신진서+인공지능)인 신진서 9단이 AI 바둑 프로그램 ‘카타고’와 두 점 접바둑을 두어 2승 1패로 승리했습니다. 신진서는 “인공지능은 완벽한 바둑을 추구하지만 사람은 전체 ‘스토리’를 봅니다. 이것이 AI와 사람이 두는 바둑의 가장 큰 차이입니다.”라고 말합니다.

사실 AI는 상대가 누군지 신경 쓰지 않고, 그저 스스로 계산한 승률 높은 수를 둘 뿐입니다. 신진서 9단이 찾아낸 정답은 ‘완벽한 수’보다 ‘상황에 맞는 수’였습니다. 전문 해설진은 “AI가 정량적인 최적점을 제시할 수는 있지만, 인간이 보여주는 창의적인 판단과 위기 극복 능력까지 완벽히 제어할 수는 없음을 보여준 대국”이라고 평가했습니다.