미국 빅테크 기업들의 "AI 안전 서약서" 서명 및 발표 임박

마이크로소프트, 구글, 오픈 AI 및 앤트로픽 등 인공지능(AI) 빅테크들이 미국 정부가 요청한 'AI 안전 서약서'에 서명하고 곧 공식 발표할 예정이라고 합니다. 이 서약서는 지난 5월 백악관에서 열린 AI 정책 토론회에 따른 것으로, 강제성 없는 '자발적 선언'인 것으로 전해졌습니다. 이 블로그에서는 AI 안전 서약서의 발표 배경, 서약서의 내용, 법적 구속력 및 향후 전망을 살펴보겠습니다.

1. AI 안전 서약서 발표의 배경

미국 백악관이 주도한 주요 AI 기업들의 안전 서약서 발표는 인공지능의 잠재적 위험에 대한 우려와 함께 이루어진 자발적 선언입니다. AI 기술의 발전으로 인해 잘못된 정보를 퍼뜨리거나 딥페이크를 생성하는 등 악의적인 목적으로 활용될 수 있는 가능성이 높아지고 있습니다. 이러한 상황에서 AI 안전 공약은 기업들이 책임감 있게 AI를 개발하고 사용하도록 독려하기 위한 노력입니다.

 

미국은 아직까지 포괄적인 AI 규제를 시행하지 않은 국가 중 하나입니다. 하지만 2022년 12월 백악관이 발표한 프레임워크를 통해 규제의 모멘텀이 커지고 있는 상태입니다. 한편, 유럽 연합(EU)은 이미 2018년 일반 데이터 보호 규정(GDPR)을 통해 AI 규제의 선두주자로 자리매김하고 있습니다. GDPR에는 기업들이 개인 데이터를 처리하기 전에 동의를 얻어야 하는 등 AI와 관련된 조항이 포함되어 있습니다.

 

AI 안전 서약서는 미국이 AI 규제 측면에서 다른 국가들을 따라잡기 위한 시도로 볼 수 있습니다. 비록 법적 구속력은 없지만, 이는 주요 AI 기업들의 도덕적 약속이자 미래 규제의 선례가 될 수 있습니다. 또한 이러한 서약은 다른 기업들도 유사한 움직임을 보이도록 권장할 수 있습니다.

2. 서약서의 내용

AI 안전 서약서에는 8가지 조항이 포함되어 있습니다.

1) AI 오남용 감시 "레드 팀" 구성

AI 오남용을 감시하기 위해 "레드 팀"을 구성하는 것이 있습니다. 이 팀은 악의적인 목적으로 AI를 사용하는 오용 사례를 파악하고 해결하는 역할을 담당합니다.

2) 안전 정보 공유

정부 및 기업들과 신뢰 및 안전 정보를 공유하는 것이 중요합니다. 이로써 인공지능이 어떻게 사용되고 있는지, 잠재적인 위험과 취약점에 대한 데이터를 공유할 수 있습니다.

3) 이미지 및 오디오 생성 파일에 워터마크 포함

인공지능의 이미지 및 오디오 생성 파일에 워터마크를 포함하는 것입니다. 이를 통해 AI가 생성한 콘텐츠의 출처를 식별하고 추적할 수 있습니다.

4) 회사에 보안 취약성 알림

기업들은 자체 AI 시스템에서 발견한 보안 취약점을 다른 기업과 정부에 통보해야 합니다. 이를 통해 보다 안전한 개발과 사용이 가능해집니다.

5) AI 안전에 대한 첨단 연구 지원

AI 안전에 대한 첨단 연구를 지원하는 것입니다. 기업들은 AI의 안전성과 책임성에 대한 연구를 지원함으로써 기술의 발전과 더불어 안전성을 강화할 수 있습니다.

6) AI 안전에 대한 국제 협력 옹호

AI 안전에 대한 글로벌 표준을 개발하기 위해 다른 나라들과 협력함으로써 세계적인 안전 기준을 확립하는데 도움이 될 수 있습니다.

7) 공약 이행 진행 상황 보고

공약 이행 진행 상황을 보고합니다. 기업들은 매년 공약 이행의 진척 상황을 보고해야 할 것입니다.

8) AI 연구 개발에 대한 투명성 유지

기업들의 AI 연구 개발에 대한 투명성을 유지하도록 요구하는 것입니다. 데이터 수집과 사용에 대해 투명성을 유지하여야 사용자들에게 신뢰를 제공할 수 있습니다.

3. 서약서의 법적 구속력

AI 안전 서약서는 법적 구속력이 없지만, 기업들이 도덕적 약속으로서 그 조항들을 따를 것을 바란다는 백악관의 의도가 있습니다. 이 서약서는 기업들이 인공지능의 안전성과 책임성을 증명하는 데 도움이 될 뿐만 아니라, 미래의 AI 규제를 위한 중요한 발판이 될 수 있습니다. AI 안전 서약서는 미국이 다른 국가들과 협력하여 AI 규제를 강화하는 데도 영향을 미칠 것으로 전망됩니다.

4. 향후 전망

AI 안전 서약서의 향후 전망은 기업들의 공약 준수 의지와 모니터링, 집행 메커니즘의 효과, 국제 표준 개발 등 여러 요인에 좌우될 것입니다. 이러한 노력들이 성공적으로 이루어진다면, AI의 안전하고 책임 있는 개발과 사용을 촉진하는 중요한 수단이 될 수 있습니다. 그러나 AI와 관련된 모든 위험을 해결하기 위해서는 보다 포괄적인 AI 규제가 필요할 것이며, 이러한 규제는 현재 발표된 AI 안전 서약서보다 더 구체적이고 강력할 것으로 예상됩니다. 하지만, 이러한 노력들은 AI의 더 안전한 미래를 위한 좋은 시작점이 될 것입니다.

5. 맺음말

AI 안전 서약서는 인공지능의 잠재적 위험에 대한 우려와 함께 발표된 자발적인 선언입니다. 이러한 서약서는 AI의 안전하고 책임 있는 개발과 사용을 촉진하기 위한 노력의 중요한 단계이며, 미국 백악관이 주도하는 주요 AI 기업들의 약속으로서 의미가 큽니다. 그러나 AI 안전 서약서가 성공적으로 실행되기 위해서는 기업들의 실질적인 노력이 필요하며, 미래에 도입될 AI 규제와 함께 더 나은 AI 에코시스템을 구축할 수 있을 것으로 기대됩니다.