AI 콘텐츠에 워터마크 부착? - 새로운 조치 합의

 

미국 AI 기업 7개사, AI 콘텐츠에 워터마크 부착?

미국을 대표하는 인공지능(AI) 기업 7개사가 보안과 이용자 보호 강화를 위한 새로운 조치에 합의했다. 구글, 메타, 마이크로소프트, 아마존, 오픈AI, 인플렉션, 앤스로픽 등의 기업들은 보안 기술에 대한 투자를 확대하고, AI로 작성한 콘텐츠에는 워터마크를 부착하는 등의 이용자 보호에 필요한 노력을 기울일 계획이다. AI를 활용한 정보조작이나 가짜뉴스가 범람할 수 있다는 우려에 따른 조치다.

백악관 주도 회의에서 조치 합의 도출

월스트리트저널을 비롯한 여러 외신들은 백악관 주도의 회의에서 이러한 합의가 이루어졌다고 보도했다. 합의 내용은 사이버 보안 투자, 차별 연구, 그리고 AI 생성 콘텐츠에 새로운 워터마킹 시스템 개발 등을 포함하며, 기업들이 AI 기술이 야기할 수 있는 위험성에 동의하며 이러한 조치를 취하기로 결정했다.

조 바이든 미국 대통령은 회동에서 "새로운 기술이 민주주의와 가치에 초래할 위협에 대해 경계해야 한다"며 "기업들은 책임감 있는 혁신을 통해 미국인들의 신뢰를 얻어야 한다"고 강조했다.

미국 AI 기업들의 책임감 있는 혁신 필요성

그러나 이러한 조치들은 자발적 합의에 불과하여, 약속 이행에 실패할 경우 제재를 가할 수 있는 수단은 현재로서는 없다. 미국과 여타 국가들은 AI 기술이 야기할 수 있는 위험에 대해 많은 우려를 표현해왔다. 오픈AI의 챗GPT가 세계적인 관심을 받으면서 생성 AI 기술의 부작용 문제가 도마 위에 올랐다. 이를 고려하면, 바이든 행정부가 주요 기술 기업 대표, 노동 및 시민운동 지도자들과 AI 기술에 대한 문제를 논의하는 데에 많은 시간을 할애한 것은 당연하다고 할 수 있다.

미국 행정부의 AI 문제 해결을 위한 다각적 노력

미국 행정부는 이러한 문제를 해결하기 위해 여러 방안을 제시했다. 5월에는 국립과학재단에 1억 4천만 달러를 지원하여 국가 AI 연구 기관을 설립하는 방안을 발표하였다. 이뿐만 아니라 구글, 마이크로소프트, 엔비디아, 오픈AI 등이 자사의 대용량 언어 모델을 공개 평가하기 위해 합의하였다.

 

 

'SAFE 혁신 프레임워크' 제시와 AI 규제 필요성

미국 민주당의 척 슈머 상원 원내대표는 AI 규제를 위한 'SAFE 혁신 프레임워크'를 제시하였다. 이는 보안(security), 책임(accountability), 토대(foundations), 설명(explain)의 첫 글자를 따서 만들어진 프레임워크로, AI 기술의 혁신을 주도하면서도 이러한 원칙을 지키는 것을 목표로 하고 있다. 슈머 의원은 구체적인 정책 방안은 제시하지 않았지만, AI가 국가 안보, 일자리, 허위 정보 생성 등에 미칠 수 있는 영향을 규제하기 위한 법 제정 작업에 참여할 것을 요청하였다.

기업들의 자발적인 조치와 안전한 AI 활용을 위한 노력

백악관은 이런 문제에 대해 주목하고 있으며, 기업들이 AI를 활용한 사기나 속임수 등을 차단하기 위한 자발적 조치를 취하겠다는 약속을 받았다고 밝혔다. 기업들은 AI 시스템의 기능, 한계, 적절한 사용 영역 등을 공개하며, 유해한 편견과 차별을 방지하고 개인정보를 보호하는 것을 포함한 AI의 사회적 위험에 대한 우선적인 연구를 약속하였다. 또한, 제3자에 의한 AI 시스템의 취약성 발견 및 보고를 촉진하고, AI 위험 관리에 관한 정보를 업계, 정부, 시민사회, 학계 등과 공유하겠다는 내용도 포함되어 있다.