지난달 포브스 등 주요 신문들에 따르면 세계 최대 소셜네트워크서비스(SNS)인 페이스북은 자사의 AI 기술을 적용해 개발 중인 챗봇(Chatbot·채팅로봇)이 최근 자신들끼리만 알아듣는 언어로 대화하는 사실을 포착하고 이를 강제로 종료했다. 페이스북은 인간이 알아들을 수 있는 언어만 사용하도록 프로그램을 재설계한 것으로 알려졌다. 앞서 올 6월 페이스북은 인간의 실제 대화를 모방케 하는 방식으로 AI 챗봇을 훈련시키고 있다고 밝혔다.
페이스북은 모자와 책, 공 등을 협상하면서 나눠 갖도록 대화하는 훈련을 시켰는데, AI 챗봇은 인간도 이해할 수 있는 평이한 수준의 영어(i need the hats and you can have the rest·나는 모자만 있으면 되니까 나머지는 네가 가져도 좋아)를 구사했다.
그러나 챗봇과 챗봇이 반복 대화하도록 훈련을 시켰더니 인간이 이해할 수 없는 언어(balls have a ball to me to me to me to me to me to me to me)가 나오기 시작했다. 원칙대로라면 아무런 의미가 없어 보이는 이런 말에 대해 상대 챗봇은 오류를 일으켜야 한다. 하지만 챗봇은 이를 이해한 듯 대답(i i can i i i everything else)하며 인간이 이해할 수 없는 대화가 이어졌다. 페이스북 개발자들은 AI들이 자신들만의 코드 언어를 개발한 것으로 분석했다.