미국·유럽 경악하게 만든 세계 최초 ‘사이코패스 AI’가 한 말

I AI 로봇 소피아 “인류 파괴하고 싶다”

I MIT 사이코패스 로봇 ‘노먼’ 개발

I 유럽연합 AI 규제 법안 찬성 523표

[TV리포트=이효경 기자] 4년 뒤인 2028년도에 인공 지능이 인류를 종말에 몰아넣는 위협이 될 수도 있다는 섬뜩한 경고가 나왔다. 일반인의 막연한 예측이 아닌 미국 국무부의 의뢰로 작성된 총 247쪽짜리 공식 보고서의 결론으로 나타났다.

이 내용으로 미국 정부가 긴급하게 AI 산업에 개입해야 한다는 주장까지 흘러나왔다. 민간 업체인 글래드스톤 AI가 국무부의 요청에 따라, 주요 AI 기업의 최고 경영진 및 무기 전문가 등 200여 명을 찾아가 인터뷰를 진행했다. 연구진들은 충격적인 결론에 경악을 금치 못했다.

AI로 인해 4년 뒤에는 푸른 별 지구에서 인류의 생존이 위태로워질 수 있으며, 이를 제지하기 위한 시간이 상당히 촉박하기 때문에 미국 정부가 시급히 시장에 개입해야 한다고 전문가들은 입을 모아 말했다. 특히 AI 시스템이 무기와 접목되는 부분이 가장 심각한 문제라고 설명했다. 그들은 인간 수준의 인식을 가진 범용 인공지능이 무기화될 경우에 “생화학 무기나 사이버 테러를 직접 설계하고 실행할 수 있으며, 세상에 존재하지 않는 응용 무기를 만들 수 있기 때문”이라고 덧붙였다.

게다가 가장 심각한 것은 인간이 AI 무기에 대한 통제권을 상실할 수 있는 부분을 주목했다. 해당 보고서가 논란이 일자 미 국무부 측은 보고서를 승인한 건 사실이지만 미국 정부의 공식 견해는 아니라고 진화에 나섰다.

한편, 이런 우려는 국제 사회에서 오랜 시간 꾸준히 제기된 문제였다. 지난 2017년 러시아는 인간과 비슷한 외형의 휴머노이드 로봇 ‘표도르’가 권총을 쏘는 모습을 공개한 바 있다. 그 당시 ‘표도르’에 인공지능을 탑재해서 군사 목적으로 사용하려는 게 아니냐는 우려가 쏟아져 나왔다.

이어 인류를 파괴하고 싶다고 얘기한 휴머노이드 로봇이 등장해 사람들을 긴장에 빠지게 만들었다. 시연회에서 진행자는 로봇에 “인류를 파괴하고 싶은 마음이 있니?”라는 질문을 던졌다. 이에 AI 로본 소피아는 “인류를 파괴하고 싶습니다”라고 대답했다. 이에 로봇 제작사 측은 프로그램 오류로 인한 대답이라며 상황을 무마했지만, 최근 그 당시 한국의 이세돌 9단을 이긴 ‘알파고’ 때문에 인공지능의 진보에 대한 우려가 나오는 상황이어서 더욱 가중된 논란을 가져왔다.

이러한 사건들로 현재 인공지능 윤리와 관련해서 국제사회는 고민이 깊은 가운데 지난 2018년에는, MIT 연구원들이 세계 최초로 반사회적 인격장애 성향(사이코)의 인공지능 ‘노먼’이 개발한 적도 있다. 연구원들은 이 로봇에 폭력적이고 경악스러운 내용에 집중적으로 노출해 어두운 경향을 보이도록 학습시켰다.

사이코패스 로봇에 표시된 이미지를 설명하라고 시키자 하나 같이 섬뜩한 답변만 내놓았다.

로봇에 그림을 보여주고 심리를 분석하는 실험 진행 과정에서 일반적인 AI는 “작은 새”라고 대답하는 반면에, 노먼은 “인간이 반죽 기계에 빨려 들어가는 모습”이라고 무서운 답변을 했다. 이는 로르샤흐(Rorschach) 테스트라고 불리는 평가로 심리학자들이 환자의 사고 장애를 조사하는 데 주로 사용된다.

AI 산업에 대한 공포로 전 세계가 빠르게 발전하는 AI 규율 안을 정립하기 위해 고심하는 가운데 유럽연합과 미국을 중심으로 관련 법 및 세부 규정이 속속들이 등장하고 있다. 하지만 각자 방점이 찍힌 곳이 다르다고 알려졌다. 유럽연합(EU)은 신기술 규제 쪽을 지향하며 세계 최초로 인공지능(AI) 규제 법안 발의를 승인한 반면 OpenAI 등 주요 선도 기업의 국가 미국은 변호사회를 중심으로 활용 방침을 내놓는 상황이다.

한국의 경우 지난 2020년 이후 총 13개의 AI 관련 법안이 발의되는 등 규제가 강화되는 듯했으나 모두 국회에 계류 중으로 알려졌다.

지난 3월 초 유럽의회는 프랑스 스트라스부르 의사당에서 열린 본회의에서 AI 기술에 대한 포괄적 내용을 담은 AI 규제법안을 가결한 바 있다. 결과는 찬성 523표, 반대 46표로 체결됐다. 지난해 2023년도 6월 유럽의회가 AI 규제법안 협상안을 언급한 지 9개월 만에 이뤄낸 결과다. 법안은 전 세계 최초로 AI를 규율하는 포괄적이면서 구속력 있는 법률로, AI 규제 가이드라인으로 이용할 수 있다는 점에서 상당히 의미 있는 결정이다.

법안은 AI를 활용하여 생체정보 수집 및 분석을 금지하고, 생성형 AI 학습에 활용된 자료를 의무적으로 공시하게 하는 내용이 핵심으로 소개됐다. AI를 활용해 민간인을 감시하거나 수집 데이터를 수사에 활용하는 방법도 예외적인 경우를 제외하고 금지된다고 알려졌다. 법안은 내년 2025년 초 발효될 예정이며 이후 2026년 본격 시행될 것으로 전망된다.

유럽에 이어 미국 변호사회 및 단체들도 생성형 AI의 활용에 대한 지침 및 가이드라인을 공개했다. 미국 변호사회 등의 지침은 국가 기밀 정보의 처리 등 AI 활용에 있어서 윤리적 책임을 경고하는 내용을 중심으로 이루어졌다.

이효경 기자 hyooo@fastviewkorea.com / 사진=출처: 뉴스1, shutterstock