국제 사회는 생성, 인공 지능의 새로운 현실에 긴급히 직면해야 하며 안보리가 위험과 보상을 논의함에 따라 연사들이 강조함

오늘 이 주제에 대한 첫 번째 공식 회의에서 연사들은 이 신흥 기술에 내재된 위험과 보상의 이중성이 강조되면서 국제 사회가 생성 및 기타 인공 지능(AI)의 새로운 현실에 시급히 직면해야 한다고 말했습니다. .

UN 사무총장 안토니오 구테레스(António Guterres)는 AI가 인쇄기와 비교된다고 언급하면서 인쇄된 책이 유럽 전역에 널리 보급되기까지는 50년 이상이 걸렸지만 “ChatGPT는 단 몇 년 만에 1억 명의 사용자에 도달했습니다. 이 개월". AI는 글로벌 개발을 가속화하고 인권을 실현할 수 있는 잠재력에도 불구하고 편견을 증폭시키고 차별을 강화하며 새로운 수준의 권위주의적 감시를 가능하게 할 수 있습니다.

그는 생성적 AI의 출현이 "허위 정보와 증오심 표현을 결정짓는 순간이 될 수 있다"고 말했습니다. 거버넌스 문제는 여러 가지 이유로 복잡할 것이지만 국제 사회에는 이미 진입점이 있습니다. 그는 가장 좋은 접근 방식은 기존 과제를 해결하는 동시에 미래의 위험에 대응할 수 있는 역량을 구축하는 것이라고 말하며 "우리를 더 멀리 밀어내는 AI가 아니라 사회적, 디지털, 경제적 격차를 해소하는 AI를 위해 협력해야 한다"고 강조했습니다.

Anthropic의 공동 창립자인 Jack Clark은 AI가 엄청난 이점을 가져올 수 있지만 AI 시스템의 두 가지 필수 특성인 오용 가능성과 예측 불가능성으로 인해 평화, 안보 및 세계 안정에 위협이 되기도 한다고 지적했습니다. 예를 들어 AI 시스템은 생물학에 대한 이해를 향상시킬 수 있지만 생물학적 무기를 만드는 데에도 사용될 수 있습니다. 또한 일단 개발 및 배포되면 사람들은 그러한 시스템에 대한 새로운 용도와 예상치 못한 용도를 식별합니다.

그는 “인공지능 개발을 민간 부문에만 맡길 수는 없습니다.”라고 강조하면서 정부는 강력하고 신뢰할 수 있는 평가 시스템을 개발함으로써 기업에 책임을 부여할 수 있고 기업은 전 세계의 신뢰를 얻을 수 있다고 강조했습니다. 그러한 투자가 없으면 국제 사회는 소수의 민간 부문 행위자에게 미래를 넘겨줄 위험이 있다고 그는 경고했습니다.

또한 중국과학원 자동화 연구소의 Yi Zeng은 위원회에 브리핑하면서 현재의 AI는 겉보기에는 지능적이지만 실제 이해가 없는 정보 처리 도구라고 지적했습니다. “이것이 바로 그들이 인간이 결정을 내리는 데 도움을 줄 수 있는 책임 있는 대리인으로서 신뢰할 수 없는 이유입니다.”라고 그는 강조했습니다. 그는 “AI가 인간의 약점을 이용하는 것으로부터 우리 자신을 보호할 수 있는 방법을 찾지 못했다”는 이유만으로 AI가 단기 및 장기적으로 인류 멸종의 위험을 안게 될 것이라고 말했습니다.

이어진 토론에서 위원회 회원들은 AI가 글로벌 문제를 해결하기 위해 제공하는 혁신적인 기회와 AI가 제기하는 위험(잘못된 정보 확산과 악의적인 사이버 작전을 통해 갈등을 심화시킬 수 있는 잠재력 포함)을 번갈아 강조했습니다. 많은 사람들은 이 기술의 군사적 응용을 인식하고 자율 무기 시스템에서 인간의 의사 결정 요소를 유지해야 한다는 점을 강조했습니다. 회원들은 또한 국제 AI 거버넌스를 위한 윤리적이고 책임 있는 프레임워크를 구축할 필요성을 강조했습니다.

이에 대해 아랍에미리트 첨단 과학 기술 차관 Omran Sharaf는 주요 이해관계자들이 기꺼이 단결하여 이 기술에 대한 보호책을 고려할 수 있는 짧은 기회의 창이 있다고 말했습니다. 그는 회원국들이 "너무 늦기 전에" 공통적으로 합의된 규칙을 수립해야 한다고 강조하면서 AI 도구가 극단주의를 촉진하고 갈등을 악화시킬 수 있는 증오, 잘못된 정보, 허위 정보를 조장하는 것을 방지할 수 있는 메커니즘을 요구했습니다.

가나 대표는 이에 덧붙여 국제 사회가 "전투적 우위를 향한 개인의 국가적 야망의 과잉을 제한"해야 한다고 강조했습니다. 그는 평화로운 목적을 위해 AI를 관리할 프레임워크 개발을 촉구하면서 유엔 리비아 지원단(UNSMIL)이 해당 기술을 배포하는 것을 강조했습니다. 그는 정책에 대한 리비아 국민의 반응을 결정하는 데 사용되어 해당 국가의 2022년 세계 평화 지수의 개선을 촉진하는 동시에 AI가 자율 무기 시스템에 통합되는 것에 대해 경고했다고 지적했습니다.