최근 발간된 유네스코 보고서는 윤리원칙 통합 결정조치가 취해지지 않으면, 인공지능이 홀로코스트(대량학살)의 역사 기록을 왜곡하고 반유대주의를 부추길 수 있다고 경고했다.
보고서는 못된 사람들의 허위 정보와 증오를 부추기는 이야기를 생성형 인공지능이 퍼뜨릴 수 있을 뿐만 아니라, 대량학살에 대해 의도치 않게 거짓이나 오해를 불러일으킬 수 있다고 주의를 줬다.
“홀로코스트의 끔찍한 사실이 AI의 무책임한 사용으로 희석되고 왜곡되거나 변조되는 것을 내버려 둔다면, 반유대주의가 폭발적으로 확산되고, 이러한 만행의 원인과 결과에 대한 이해가 점차 감소할 위험이 있습니다. 젊은 세대들이 날조가 아닌 사실을 알고 자라도록 유네스코의 인공지능 윤리 권고안을 이행하는 것이 시급합니다” -오드리 아줄레이 유네스코 사무총장
세계유대인회의(World Jewish Congress)와 공동으로 발간한 유네스코 보고서는 학습자들이 과제를 수행하거나 온라인에서 정보를 찾기 위해 생성형 인공지능을 사용하는 경우가 늘어나면서, 대량학살에 대한 왜곡된 정보에 노출될 위험이 있는데, 이런 정보는 인공지능이 만든 콘텐츠를 통해 확산되는 새로운 방법을 찾았다고 설명한다. 현재 10세에서 24세 사이의 젊은이 다섯 명 중 네 명(80%)이 교육과 오락, 기타 목적으로 하루에 여러 번 인공지능을 사용하고 있는 상황에서, 이러한 새로운 기술을 윤리적으로 지도하는 조치가 신속하게 이루어져야 한다.
인공지능은 사회의 편견을 흡수하고 증폭시킬 수 있다.
생성형 인공지능은 방대한 양의 데이터를 사용하여 훈련해야 한다. 이 데이터는 종종 인터넷에서 채굴되며 오해의 소지가 있거나 유해한 콘텐츠를 포함할 수 있다. 따라서 인공지능 시스템은 사람들의 편견을 그대로 받아들이고, 잠재적으로 특정 사건에 대한 정보를 잘못 전달하여 편견을 부추긴다. 대량학살에 있어서 특히 그러한데, 이는 이 사건에 대한 허위 정보가 만연하기 때문이다. 보고서는 인공지능 개발자의 감독이나 지도 및 절제 부족으로 인해 생성형 인공지능 도구가 대량학살 부정 웹사이트의 데이터를 받아들일 수도 있다고 지적했다.
또한 인공지능이 자료화되고 있어서, 못된 사람들이 대량학살 관련 콘텐츠를 왜곡하고, 조작된 증언을 만들고, 심지어 역사 기록 날조가 가능하다. 생성형 인공지능을 사용하여 만들어진 합성된 영상이나 그림과 음성 콘텐츠를 소셜 미디어 플랫폼에서 우연히 접한 젊은이들은 특히 솔깃할 수 있다. 역사 인물 앱(Historical Figures App)은 사용자들이 아돌프 히틀러(Adolf Hitler)나 조셉 괴벨스(Joseph Goebbels)와 같은 독일의 국가사회주의자(Nazis: Nationalsozialist)와 채팅할 수 있게 했으며, 괴벨스와 같은 사람은 대량학살에 의도적으로 관여하지 않았으며 유대인에 대한 폭력을 방지하려고 노력했다고 거짓 주장했다.
자료 누락으로 인한 ‘허위 정보’ 전력
생성 인공지능 모델은 자료를 충분하게 접하지 못했을 때, 사건이나 성격, 심지어 역사적 현상까지 만들어내거나 ‘오해의 소지가 있는 정보(hallucinating)’를 제시하기 쉽다. 이 보고서는 챗GPT와 구글의 바드(Bard)가 둘 다 대량학살 관련 사건들을 상세히 기술한 내용을 제작했는데, 이런 사건은 결코 발생하지도 않았다는 점을 강조했다. 챗GPT는 나치가 유대인들을 강과 호수에서 익사시킨 ‘익사 대량학살’ 캠페인 장면을 완전히 조작했으며, 바드는 대량학살의 왜곡된 서술을 뒷받침하는 목격자들의 가짜 인용문을 만들어냈다.
이 보고서는 조작과 ‘허위 정보’가 기정사실과 전문가에 대한 신뢰를 훼손하는 위험 외에도, 복잡한 역사를 지나치게 단순화하고, 한정 범위의 출처와 몇몇 사건을 택하여 부각시키는 인공지능의 경향이 위험함을 강조했다. 인공지능으로 구동되는 검색 엔진에서, 상위 검색 결과의 60~80%는 대량학살이 있었던 아우슈비츠-비르케나우(Auschwitz-Birkenau)에 대한 것이다.
해결책: 유네스코의 윤리 원칙 즉각 이행하기
유네스코는 2021년 회원국이 만장일치로 채택한 이 분야의 최초이자 유일한 세계 표준인 ‘인공지능 윤리 권고사항’ 이행에 박차를 가할 것을 각국 정부에 촉구한다. 이 권고안은 이미 50개국 이상의 법률에 통합되고 있다.
유네스코는 첨단기술 기업에게도 표준을 이행하고 책임을 다하며, 공정성과 투명성, 인권 및 실사와 같은 원칙이 설계 단계에서 적용되도록 보장할 것을 촉구한다. 2024년 2월, 8개 첨단기술 기업은 (유네스코의 윤리 원칙) 책무에 처음으로 서명했는데, 새로운 인공지능 도구 개발에 윤리적 접근 방식을 적용하겠다는 것이다.
첨단기술 기업은 새로운 인공지능 도구를 개발할 때, 유대인 공동체나 홀로코스트 생존자 및 그 후손, 교육자, 반유대주의 전문가 및 역사가와 긴밀히 협력해야 한다.
유네스코는 또한 젊은이들에게 디지털 문해와 비판적 사고 능력, 그리고 대량 학살의 역사에 대한 건전한 이해를 제공함으로써 홀로코스트의 사실을 보호하는 데 도움이 되는 교육 시스템을 호소한다.
조미경 글로벌 수석전문기자