AI 관련 세계 각국 규제 추진
미국, ‘ChatGPT’ 등 생성형 인공지능(AI) 관련 규제 마련을 위한 검토에 착수
한 달 실제 사용자가 전 세계 1억명을 돌파한 챗GPT의 열풍으로 AI 윤리나 정확성 등이 쟁점이 된 데 따른 움직임으로 보인다.
미 상무부 산하 국가통신정보청(NTIA)은 11일(현지시간) AI 시스템 규제안에 대해 60일간 여론수렴에 나선다고 밝혔다. AI 시스템이 의도대로 작동하면서 차별이나 허위정보 등 해악을 끼치지 않도록 하기 위한 연방정부의 역할을 검토하는 차원이다.
앨런 데이비드슨 NTIA 청장은 이날 “AI의 잠재적 후과와 피해에 대응할 때 AI 시스템이 큰 혜택을 가져올 수 있다”며 “AI 기술이 책임있게 쓰이도록 하기 위해 일부 가드레일이 필요하다”고 말했다. (출처: 경향신문, 2023.04.12)
세계 주요국도 AI 기술 규제를 위한 법률 및 정책 마련에 박차를 가하고 있다.
- 유럽
첫 인공지능(AI) 규제 프레임워크인 EU의 'AI법(AI Act)' 초안이 3월 초에는 나올 것으로 전해졌다.
AI법 초안에는 챗봇에서부터 자동화 공정과 자율주행차에 이르기까지 광범위한 분야에서 AI의 위험성을 제거하기 위한 기준을 담은 것으로 알려졌다. 특히 최근 폭발적인 인기를 누리고 있는 '챗GPT'와 관련한 내용도 추가될 것으로 보여 관심이 모아진다. 최근 티에리 브루통 EU 산업 부문 집행위원이 챗GPT에 대한 잠재적 위험을 경고하면서 관심이 증폭되는 상황이다.
로이터는 6일(현지시간) 드라고스 투도라치 EU 평의회 의원이자 EU AI법 공동 보고관이 "AI법 초안 작성이 당초 생각했던 것보다 지연됐지만 전반적인 목표와 일정에 따라 이행할 수 있는 단계"라며 "3월 초쯤이면 AI법 초안에 대한 공동지지 성명을 발표할 수 있을 것"이라고 밝혔다고 보도했다.
EU 집행위는 세부 사항 조율 과정을 거쳐 연말까지는 AI법을 공표할 예정이다.
EU AI법은 AI 기술을 주도하는 미국과 중국의 영향력에서 벗어나 광범위한 분야에서 AI의 위험성을 제거하는 기준을 만드는 것이 목표다.
구체적으로 AI의 위험 수준을 4단계로 정의한다. ▲수용할 수 없는 위험(사용 금지) ▲고위험(중요 인프라 및 취업·교육 등에 관한 시스템 포함) ▲제한된 위험(자신을 AI로 인식하는 챗봇과 같은 '특정 투명성 의무'가 있는 시스템 포함) ▲최소 위험 또는 무위험(AI 지원 게임 및 필터 기술 등 대다수 시스템) 등이다.
이 법이 발효되면 일부 서비스는 단계에 따라 조치를 취하거나 혹은 EU에서는 사용할 수 없게 된다. 때문에 미국 AI 업계는 강한 우려를 표하고 있다. (출처 : AI타임스, 2023.02.07)
- 중국
BBC 등 외신은 중국 디지털 규제 기관이 공산주의 체제에 반하는 답을 내놓는 생성 AI 제품 출시를 금지하는 지침을 내놨다고 12일(현지시간) 보도했다.
가장 대표적 제품은 AI 챗봇과 대규모언어모델(LLM)이다. 중국이 온라인 검열 체계를 생성 AI 분야로 확장한 셈이다.
검열 범위는 언어모델 데이터셋 연구 훈련법부터 AI 챗봇 배포까지다. 사실상 챗봇 개발부터 출시 전 과정을 검열하는 셈이다. 중국은 사용자가 생성 AI와 어떻게 상호작용하는지, 연구자는 데이터셋을 어떻게 훈련해야 하는지까지 직접 확인한다.
중국 사이버 관리국이 해당 규제안을 만들었다. 규제에 대한 명확한 이유를 알렸다. 관리국은 "중국 IT기업은 데이터셋에 사회주의 핵심 가치를 반드시 반영해야 한다"고 강조했다. 해당 규정을 위반하는 기업은 벌금을 내야 한다. 벌금은 1만 위안(약 190만원)에서 최대 10만 위안(약 1천900만원)이다. 형사 수사도 받는다.
중국이 검열을 시작한 이유는 생성 AI 특성 때문이다. 일반적으로 언어모델은 인터넷을 통해 데이터를 모은다. 데이터는 중국 정부에 반하는 사상, 중국 내에서 금기로 여겨지는 주제 등도 학습한다.
최근 바이두가 만든 챗봇 '어니봇'도 위키백과나 레딧에서 얻은 정보를 데이터셋에 넣었다. 위키백과나 레딧은 중국에서 접속 불가한 웹사이트다. 중국 국민은 해외 인터넷 사이트를 이용할 수 없지만, 챗봇 답변을 통해 정보를 자유롭게 접할 수 있다.
영국 이코노미스트인텔리전스유닛 침 리 중국 기술 분석가는 "중국은 평소 선호하던 사상을 AI 제품에 녹이는 방향을 추진하고 있다"고 밝혔다. 미국 조지워싱턴대 제프리 딩 교수는 "AI챗봇은 정치적으로 민감한 내용을 답변으로 생성할 가능성이 높다"며 "이는 중국 공산당에게 큰 위기일 수 있다"고 전했다.(출처: 지디넷코리아, 2023.04.14)
- 그 외 국가
이탈리아는 부적절하게 정보를 수집하고 저장했다며 챗GPT를 잠정 금지했고 독일 연방 데이터보호·정보자유위원회(BfDI)도 개인정보 보호 문제로 챗GPT 접속이 일시적으로 차단될 가능성을 열어둔 상황이다.
(출처 : 디지털투데이)