[데일리임팩트 이진원 객원기자] 조 바이든 미국 대통령이 30일(현지 시각) 인공지능(AI) 기술이 초래할 위험을 차단하기 위한 행정명령에 서명했다. AI가 소비자, 근로자, 소수 집단 및 국가 안보에 미치는 위험을 줄이겠다는 게 목적이다.
이제 미국의 국가 안보, 경제, 공중 보건, 안전에 위험을 초래할 수 있는 AI 시스템 개발사들은 시스템을 대중에게 공개하기 전에 국방물자생산법(Defense Production Act)에 따라 안전 테스트 결과를 미국 정부와 공유해야 한다. 국방물자생산법이란 국가 안보를 위해 대통령에게 민간업체에 국가가 필요로 하는 물품을 생산할 수 있도록 명령할 권한을 주는 법이다.
바이든 대통령은 “AI의 가능성을 실현하고 위험을 피하기 위해 우리는 이 기술을 관리해야 한다”면서 “AI를 오용하면 해커가 우리 사회를 작동시키는 소프트웨어의 취약점을 더 쉽게 악용할 수 있다”며 행정명령 서명의 배경을 설명했다.
미국 경제방송인 CNBC는 “미국의 법 집행 기관이 기존 법률을 적용해 AI 오용을 막을 준비가 되어 있다고 경고해왔고 의회는 새로운 법률을 만들기 위해 기술에 대해 더 많이 배우려고 노력해 왔지만, 이번 행정명령은 더 즉각적인 영향을 미칠 수 있다”고 전망했다.
브루스 리드 백악관 부비서실장은 성명에서 “행정명령은 전 세계 어떤 정부가 취한 AI 안전, 보안, 신뢰에 대한 조치 중 가장 강력한 조치”라고 설명했다.
AI 생성 가짜 정보 가려낸다
상무부는 앞으로 AI로 생성된 콘텐츠에는 AI로 생성됐다는 것을 알리는 라벨 부착 지침을 개발해야 한다. AI 기업은 이 지침을 토대로 백악관이 연방기관이 채택하기를 기대하는 라벨링 및 워터마킹(watermarking·디지털콘텐츠에 인간의 지각으로 식별할 수 없도록 저작자의 정보를 삽입하고 검출기를 통해서만 그 정보를 식별할 수 있도록 하는 기술) 도구를 개발하게 된다.
주말 백악관이 주말에 공유한 팩트시트에는 ”연방 기관은 이러한 도구를 사용해 미국인들이 정부로부터 수신하는 커뮤니케이션이 진짜임을 쉽게 알 수 있게 하고, 전 세계 민간 부문과 정부에 모범을 보일 것“이라고 명시되어 있다.
텍스트, 오디오, 시각 콘텐츠의 출처에 라벨을 붙이면 온라인에서 AI를 사용해 만든 콘텐츠인지를 파악하기 한결 쉬워질 것으로 기대된다. 이러한 종류의 도구는 딥페이크(AI를 이용한 특정 인물의 이미지 합성)와 허위 정보 등 AI로 인한 문제에 대한 해결책으로 널리 제안되어 왔다.
지난 8월에 발표된 백악관과의 자발적 서약에서 구글과 오픈AI 등 주요 AI 기업은 이러한 기술을 개발하겠다고 약속한 바 있다. 하지만 이번 행정명령은 법적 강제성을 띠고 있기 때문에 안 지켜도 그만인 기업들의 약속보다 더 강력한 영향력을 띨 것으로 예상된다.
AI 시스템 출시 전 테스트 결과 정부에 알려야
기업들은 또 AI 시스템을 공식 출시하기 전에 안전 테스트 결과를 미국 정부와 공유해야 한다. 그리고 대규모 AI 시스템의 학습 데이터에 개인 식별자(personal identifier)가 포함된 경우 행정기관이 데이터 브로커로부터 구매한 데이터를 포함해 상업적으로 사용 가능한 데이터를 수집하고 사용하는 방법을 평가해야 한다.
이 외에도 행정명령은 지식재산권 규제 기관과 연방 법 집행 기관이 AI 기업들이 AI 학습 시 저작권이 있는 저작물을 사용하면서 생기는 지식재산권 위반을 막기 위해 AI 시스템의 지식재산권법 위반 여부를 평가하도록 해놓았다.
저명한 작가와 시각 예술가들은 기술 기업이 자신의 저작물을 무단으로 생성형 AI 시스템 학습에 사용했다며 절도 혐의로 여러 건의 소송을 제기한 상태다. 반면 기술기업들은 이러한 콘텐츠 사용이 미국 저작권법의 공정 사용 원칙에 의해 보호된다고 주장하고 있다.
AI 인력에 대한 관리도 강화된다. 이에 따라 AI 전문 지식을 갖춘 근로자는 AI.gov에서 연방 정부에서 관련 채용 정보를 찾을 수 있게 됐다.
구글·마이크로소프트 등은 환경, 일각에서는 우려의 목소리도
행정명령에 대한 업계 반응은 엇갈렸다.
기술과 AI에 투자하는 벤처 캐피털 회사인 투스크 벤처스의 브래들리 투스크 최고경영자(CEO)는 로이터에 행정명령을 환영하면서도 ”기술 기업들이 경쟁사에 데이터가 흘러 들어갈지 모른다는 두려움 때문에 자신만이 가진 독점 데이터를 정부와 공유하는 것을 꺼릴 것“이라고 전망했다.
주요 기술 플랫폼이 가입돼 있는 전국 무역단체인 넷체이스(NetChoice)는 ”행정명령이 새로운 기업과 경쟁자의 시장 진입을 막고 미국의 혁신에 대한 연방 정부의 권한을 크게 확대할 것 AI 레드 테이프(red tape·형식주의) 소원 목록“이라며 비판적 시각을 드러냈다.
반면 MIT 테크놀로지 리뷰에 따르면 마이크로소프트의 부회장 겸 사장인 브래드 스미스는 “AI 기술 거버넌스에서 또 하나의 중요한 진전”이라고 평가했다. 구글의 글로벌 담당 사장인 켄트 워커는 “정부 서비스를 더 좋고, 더 빠르고, 더 안전하게 만드는 등 AI의 잠재력을 극대화하기 위해 정부 기관과 건설적으로 협력하기를 기대한다”고 말했다.
댓글0