AI 기업 7개사 AI 이용한 콘텐츠 꼬리표 달기로 약속

 미국의 주요 AI 기업 7개사가 인공지능을 이용한 생성 콘텐츠에 꼬리표를 달겠다고 약속했다. 이는 사기꾼의 악용과 이용자 혼동을 막기 위함이다. 이들 기업은 안전성 측면에서 출시 전 시스템 보안 시험을 거치고, 위험 관리 정보를 공유하며, 사이버보안 및 내부 위협 방어에 투자할 것이다. 또한 사용자에게 콘텐츠 생성 시간을 알려주는 기술 메커니즘 개발, 시스템의 잠재성과 한계 공개, 그리고 유해한 편견 및 차별 방지와 개인 정보 보호에 대한 연구를 통해 대중적 신뢰를 확보할 계획이다. 이러한 조치는 AI 기술의 활용과 관련된 우려가 커지자 이에 대응하기 위해 이루어졌다. 백악관은 동맹 및 파트너 국가와 협력하여 AI 개발 및 사용을 관리하기 위한 국제 프레임워크를 만들 것이라고 밝혔다.

 

 

구체적인 내용을 보면 7월 21일(현지시간) 미 백악관은 알파벳(구글 모회사)과 메타플랫폼, 마이크로소프트, 아마존, 오픈AI, 앤트로픽, 인플렉션AI 등 AI 관련 기업 7곳 대표가 이날 백악관에서 조 바이든 대통령을 만나 AI 안전성 확보를 위한 조치를 자발적으로 도입하겠다는 입장을 밝혔다고 한다. 그 초치들을 살펴보자.

 

 

 

1. 조치는 세 가지 차원이다.

 1) 안전성 측면에서 출시 전에 시스템에 대한 내·외부 보안 시험을 거치고, 위험 관리에 대한 업계 전반의 정보를 정부와 시민사회, 학계와 공유한다.

 2)보안 유지를 위해서는 사이버보안 및 내부 위협 방어를 위해 투자하고, 제3자의 시스템 취약점 발견·보고를 촉진하기로 했다.

 3) 그외  ①워터마크처럼 콘텐츠가 언제 생성됐는지 사용자에게 알려 주는 강력한 기술 메커니즘의 개발 ②시스템의 잠재성과 한계, 적절한 사용 영역 공개 ③유해한 편견·차별 방지나 개인 정보 보호 등 AI의 사회적 위험성 관련 연구 등을 통해 대중적 신뢰를 확보한다는 방침이다.

 

2. AI로 만들어진 생성 콘텐츠의 형태
AI로 만들어진 생성 콘텐츠는 이미지, 동영상, 음성, 텍스트 등 다양한 형태로 존재한다. 이 콘텐츠는 AI 기술의 발전에 따라 점점 더 사실적이고 생생해지고 있다. 이러한 생성 콘텐츠는 다양한 목적으로 사용될 수 있다. 예를 들어, 광고, 교육, 게임, 영화, 음악 등에서 사용될 수 있다. 또한, 생성 콘텐츠는 새로운 형태의 예술과 문화를 창출하는 데에도 사용될 수 있다. 그러나 생성 콘텐츠는 악용될 수도 있는데 예를 들어, 생성 콘텐츠를 사용하여 허위 정보를 퍼뜨리거나, 사기를 치거나, 사람들을 조종할 수 있다. 따라서 생성 콘텐츠의 사용에는 신중을 기해야 한다.

 

3.AI로 만들어진 생성 콘텐츠의 구체적 사례
 AI로 만들어진 생성 콘텐츠는 다양한 목적으로 사용되고 있다. 다음은 몇 가지 사례이다.

1) 광고: AI로 만들어진 생성 콘텐츠는 광고에 사용되어 제품이나 서비스를 홍보하는 데 효과적이다. 예를 들어, AI로 만들어진 얼굴을 사용하여 제품을 사용하는 모습을 보여주는 광고가 많이 생산되고 있다.
2) 교육: AI로 만들어진 생성 콘텐츠는 교육에 사용되어 학생들이 새로운 것을 배우는 데 도움을 줄 수 있다. 예를 들어, AI로 만들어진 가상 교사가 학생들에게 수업을 하는 것이다.
3) 게임: AI로 만들어진 생성 콘텐츠는 게임에 사용되어 게임의 그래픽과 재미를 향상시킬 수 있다. 예를 들어, AI로 만들어진 3D 캐릭터를 사용하여 게임을 진행하면 몰입감이 더 높아지고 몇 배의 재미를 느낄 수 있다.
4) 영화: AI로 만들어진 생성 콘텐츠는 영화에 사용되어 영화의 특수 효과를 향상시킬 수 있다. 예를 들어, AI로 만들어진 컴퓨터 그래픽을 사용하여 비용과 시간을 획기적으로 줄일 수 있을 뿐 아니라 현란한 특수효과로 관람객들의 욕구를 충족시켜 줄 수 있다.
5) 음악: AI로 만들어진 생성 콘텐츠는 음악에 사용되어 새로운 음악을 창출하는 데 도움이 될 수 있다. 예를 들어, AI로 음악을 작사 작곡하는 것이 가능해 짐으로써 새로운 장르의 생성과 그동안 상상할 수 없었던 사운드를 생성하는 것이 가능하다.

 

 

 

4. AI로 만들어진 생성 콘텐츠의 위험성

AI로 만들어진 생성 콘텐츠는 다양한 위험성을 가지고 있다. 다음은 몇 가지 위험성이다.

1) 허위 정보: AI로 만들어진 생성 콘텐츠를 사용하여 허위 정보를 퍼뜨릴 수 있다. 예를 들어, AI로 만들어진 얼굴(딥페이크)을 사용하여 유명인의 발언을 조작하는 것이 있다.
2) 사기: AI로 만들어진 생성 콘텐츠를 사용하여 사기를 칠 수 있다. 예를 들어, AI로 만들어진 얼굴을 사용하여 가짜 신분증을 만들면 누구나 속을 수 밖에 없을 것이다.
3) 조작: AI로 만들어진 생성 콘텐츠를 사용하여 사람들을 조종할 수 있다. 예를 들어, AI로 만들어진 얼굴을 사용하여 사람들의 감정을 조종하는 것이다.

 

5. AI로 만들어진 생성 콘텐츠의 안전한 사용
AI로 만들어진 생성 콘텐츠의 안전한 사용을 위해서는 다음과 같은 점에 유의해야 한다.

1) AI로 만들어진 생성 콘텐츠의 출처를 확인해야 한다.
2) AI로 만들어진 생성 콘텐츠의 정확성을 확인해야 한다.
3) AI로 만들어진 생성 콘텐츠를 신중하게 사용해야 한다.
4) AI로 만들어진 생성 콘텐츠를 사용하여 사람들을 해치는 행위를 하지 않아야 한다.

 

 

6.AI로 만들어진 생성 콘텐츠의 미래
AI로 만들어진 생성 콘텐츠는 앞으로 더욱 발전할 것으로 예상된다. AI 기술의 발전에 따라 생성 콘텐츠는 더욱 사실적이고 생생해질 것이다. 또한, 생성 콘텐츠는 다양한 목적으로 사용될 것이다. 따라서 AI로 만들어진 생성 콘텐츠의 안전한 사용에 대한 인식과 함께 이 기술을 생성하는 회사들의 윤리성과 도덕성 또한 철저히 검증할 필요가 있다. 미국의 주요 AI 기업 7개사가 인공지능을 이용한 생성 콘텐츠에 꼬리표를 달겠다고 약속한 만큼 좀 더 건건하고 인간에게 유익한 컨텐츠가 생성되기를 소망한다.