이탈리아는 ChatGPT를 금지한 최초의 서양 국가가 되었습니다. 다음은 다른 국가에서 수행하는 작업입니다.

키 포인트

• 지난 주 이탈리아는 인기 있는 AI 챗봇인 ChatGPT를 금지한 최초의 서방 국가가 되었습니다.
• ChatGPT는 그 기능으로 연구원들에게 깊은 인상을 주었고 동시에 사회에 대한 부정적인 영향에 대해 규제 기관과 윤리 학자들을 걱정했습니다. 
• 이 움직임은 AI에 대한 맞춤형 규칙을 개발하는 소수의 관할권 중 유럽 연합과 중국과 함께 구체적인 규정의 부재를 강조했습니다.
• 다양한 정부가 AI를 규제하는 방법을 모색하고 있으며 일부는 ChatGPT와 같은 범용 시스템을 다루는 방법을 생각하고 있습니다.

이 사진 삽화는 2023년 3월 15일 워싱턴 DC에 있는 사무실에서 ChatGPT 로고를 보여줍니다. 

스테파니 레이놀즈 | AFP | 게티 이미지

이탈리아는 미국 스타트업 OpenAI의 인기 인공지능 챗봇인 ChatGPT를 금지한 서구 최초의 국가가 되었습니다.

지난 주, 이탈리아 데이터 보호 워치독(Italian Data Protection Watchdog)은 유럽의 엄격한 개인 정보 보호 규정 위반이 의심되는 조사가 진행되는 동안 OpenAI에 이탈리아 사용자 데이터 처리를 일시적으로 중단하도록 명령했습니다.

 

Garante라고도 알려진 규제 기관은 사용자가 다른 사용자가 챗봇과 나누는 대화 제목을 볼 수 있는 OpenAI의 데이터 유출을 인용했습니다 .

Garante는 금요일 성명에서 “플랫폼이 의존하는 알고리즘을 ‘훈련’하기 위해 개인 데이터의 대규모 수집 및 처리를 뒷받침하는 법적 근거가 없는 것으로 보입니다.”라고 말했습니다.

Garante는 또한 ChatGPT에 대한 연령 제한 부족과 챗봇이 응답에서 사실적으로 잘못된 정보를 제공할 수 있는 방법에 대해 우려했습니다.

Microsoft 가 지원하는 OpenAI, 20일 이내에 상황에 대한 해결책을 제시하지 않을 경우 2천만 유로(2,180만 달러) 또는 전 세계 연간 수익의 4%의 벌금에 직면할 위험이 있습니다.

이탈리아는 AI 발전의 빠른 속도와 그것이 사회에 미치는 영향을 고려하는 유일한 국가가 아닙니다. 다른 정부는 AI에 대한 자체 규칙을 제시하고 있으며, 생성적 AI를 언급하든 안 하든 의심할 여지 없이 이에 영향을 미칠 것입니다. Generative AI는 사용자의 프롬프트를 기반으로 새로운 콘텐츠를 생성하는 일련의 AI 기술을 말합니다. 방대한 양의 데이터에 대해 훈련된 새로운 대규모 언어 모델 덕분에 이전 AI 반복보다 더 발전했습니다.

 

오랫동안 AI가 규제에 직면해야 한다는 요구가 있었습니다. 그러나 기술이 발전하는 속도는 정부가 따라잡기 어려울 정도입니다. 이제 컴퓨터는 몇 초 만에 사실적인 예술 작품을 만들고 전체 에세이를 작성하거나 심지어 코드 라인을 생성할 수 있습니다. 

미국 농기구 제조업체인 존 디어(John Deere)의 미래학자이자 글로벌 기술 혁신 고문인 소피 해크포드(Sophie Hackford)는 CNBC와의 인터뷰에서 ”우리는 인간이 더 큰 기계의 미래에 어떻게든 굴복하는 세상을 만들지 않도록 매우 조심해야 한다”고 말했다. 박스 유럽” 월요일.

“기술은 우리를 위해 존재합니다. 암 진단을 더 빠르게 하거나 인간이 원하지 않는 일을 하지 않아도 되도록 하기 위해 존재합니다.”

″우리는 지금 그것에 대해 매우 신중하게 생각해야 하며 규제 관점에서 지금 행동해야 합니다.”라고 그녀는 덧붙였습니다.

지금보기

비디오 09:20

규제 당국은 이제 AI에 대해 조치를 취해야 한다고 미래학자는 말합니다.

다양한 규제 당국은 AI가 직업 보안, 데이터 프라이버시 및 평등에 대해 제기하는 문제에 대해 우려하고 있습니다. 첨단 AI가 허위 정보 생성을 통해 정치적 담론을 조작하는 것에 대한 우려도 있다.

많은 정부는 또한 ChatGPT와 같은 범용 시스템을 다루는 방법에 대해 생각하기 시작했으며 일부는 이탈리아와 함께 이 기술을 금지하는 것을 고려하고 있습니다.

영국

지난주 영국은 AI 규제 계획을 발표했다 . 정부는 새로운 규제를 만들기보다 각 분야의 규제 당국에 기존 규제를 AI에 적용해 달라고 요청했다.

ChatGPT를 이름으로 언급하지 않은 영국 제안서는 회사가 제품에 AI를 사용할 때 따라야 할 안전, 투명성, 공정성, 책임 및 경쟁 가능성을 포함하여 회사가 따라야 할 몇 가지 주요 원칙을 설명합니다.

영국은 이 단계에서 ChatGPT 또는 그 문제에 대한 어떤 종류의 AI에 대한 제한을 제안하지 않습니다. 대신 기업이 AI 도구를 책임감 있게 개발 및 사용하고 사용자에게 특정 결정을 내리는 방법과 이유에 대한 충분한 정보를 제공하기를 원합니다.

Michelle Donelan 디지털 장관은 지난 수요일 의회 연설에서 제너레이티브 AI의 갑작스러운 인기는 이 기술을 둘러싼 위험과 기회가 ”놀라운 속도로 나타나고 있다”고 말했습니다.

비법정적 접근을 통해 정부는 “AI 발전에 신속하게 대응하고 필요한 경우 추가 개입할 수 있을 것”이라고 덧붙였다.

AI를 사용하여 금융 범죄를 퇴치하는 Feedzai의 사기 방지 리더인 Dan Holmes는 영국 접근 방식의 최우선 순위가 ”올바른 AI 사용이 어떤 것인지”를 다루는 것이라고 말했습니다.

Holmes는 CNBC에 “AI를 사용하는 경우 생각해야 할 원칙이 더 중요합니다.”라고 말했습니다. ″그리고 그것은 종종 투명성과 공정성이라는 두 가지로 귀결됩니다.”

EU

유럽의 나머지 지역은 영국이 블록에서 탈퇴한 후 점점 더 EU 디지털 법률에서 벗어나고 있는 영국보다 AI에 대해 훨씬 더 제한적인 입장을 취할 것으로 예상됩니다.

기술 규제와 관련하여 종종 최전선에 있는 유럽 연합은 AI에 관한 획기적인 법안을 제안했습니다 .

유럽 ​​AI법(European AI Act)으로 알려진 이 규칙은 중요한 인프라, 교육, 법 집행 및 사법 시스템에서 AI의 사용을 크게 제한합니다.

지금보기

비디오 34:33

Nvidia CEO Jensen Huang, 전체 인터뷰에서 AI에 대한 그의 큰 내기에 대해 이야기

EU의 일반 데이터 보호 규정과 함께 작동합니다. 이러한 규칙은 회사가 개인 데이터를 처리하고 저장하는 방법을 규제합니다.

AI 활동이 처음 구상되었을 때 관계자들은 인상적인 예술, 이야기, 농담, 시 및 노래를 생성할 수 있는 AI 시스템의 맹렬한 발전을 설명하지 않았습니다.

Reuters 에 따르면 EU의 초안 규칙은 ChatGPT를 고위험 애플리케이션에 사용되는 범용 AI의 한 형태로 간주합니다. 고위험 AI 시스템은 사람들의 기본권이나 안전에 영향을 미칠 수 있는 시스템으로 위원회에서 정의합니다 .

그들은 엄격한 위험 평가 및 데이터 세트 공급 알고리즘에서 발생하는 차별을 없애기 위한 요구 사항을 포함한 조치에 직면할 것입니다. 

“EU는 AI에 대한 크고 깊은 전문 지식을 보유하고 있습니다. Darktrace의 최고 제품 책임자인 Max Heinemeyer는 CNBC에 말했습니다 .

″최고의 회원국을 마음에 품고 이러한 기술이 가져올 수 있는 잠재적인 경쟁 우위와 위험을 완전히 인식하고 있다고 신뢰하는 것은 가치가 있습니다.”

그러나 브뤼셀이 AI에 대한 법률을 서두르는 동안 일부 EU 국가는 이미 ChatGPT에 대한 이탈리아의 조치를 보고 소송을 따를 것인지에 대해 논의하고 있습니다.

“원칙적으로 유사한 절차가  독일 에서도 가능합니다 .

로이터는 프랑스와 아일랜드의 개인 정보 보호 규제 기관이 이탈리아에 있는 해당 기관에 연락하여 조사 결과에 대해 자세히 알아보고 있다고 보도했습니다. 스웨덴의 데이터 보호 당국은 금지를 배제했습니다. 이탈리아는 OpenAI가 EU에 단일 사무소를 가지고 있지 않기 때문에 그러한 조치를 진행할 수 있습니다.

아일랜드는 일반적으로 Meta 와 같은 대부분의 미국 기술 대기업이 있기 때문에 데이터 프라이버시와 관련하여 가장 적극적인 규제 기관입니다.그리고 구글거기에 사무실이 있습니다.

우리를

미국은 아직 AI 기술을 감독하기 위한 공식적인 규칙을 제안하지 않았습니다.

국가 과학 기술 연구소(National Institute of Science and Technology)는 AI 시스템을 사용, 설계 또는 배포하는 회사에 위험 및 잠재적 피해 관리에 대한 지침을 제공하는 국가 프레임워크를 발표했습니다.

그러나 그것은 자발적으로 운영되며, 이는 회사가 규칙을 준수하지 않는 것에 대해 어떠한 결과도 직면하지 않는다는 것을 의미합니다.

지금까지 미국에서 ChatGPT를 제한하기 위해 취해진 조치에 대한 언급은 없었습니다.

지금보기

비디오 39:49

웹을 발명한 지 30년이 지난 지금, Tim Berners-Lee는 웹을 수정하는 방법에 대한 아이디어를 가지고 있습니다.

지난 달 연방거래위원회는 OpenAI의 최신 대규모 언어 모델인 GPT-4가 ”편향되고 기만적이며 개인 정보 보호 및 공공 안전에 대한 위험”을 갖고 있으며 기관의 AI 지침을 위반한다고 주장하는 비영리 연구 그룹으로부터 불만을 접수했습니다 .

이 불만은 OpenAI에 대한 조사와 대규모 언어 모델의 상업적 배포 중단으로 이어질 수 있습니다. FTC는 논평을 거부했다.

중국

ChatGPT는 중국이나 북한, 이란, 러시아와 같이 인터넷 검열이 심한 여러 국가에서 사용할 수 없습니다. 공식적으로 차단된 것은 아니지만 OpenAI는 국내 사용자의 가입을 허용하지 않습니다.

중국의 여러 대형 기술 회사가 대안을 개발하고 있습니다. Baidu , Alibaba 및 JD.com , 중국 최대 기술 회사 중 일부는 ChatGPT 라이벌에 대한 계획을 발표했습니다.

중국은 거대 기술 기업들이 엄격한 규정에 따라 제품을 개발하고 있는지 확인하기 위해 노력해 왔습니다.

지난 달 베이징은 AI를 사용하여 합성적으로 생성되거나 변경된 이미지, 비디오 또는 텍스트 인 이른바 딥페이크에 대한 최초의 규제를 도입했습니다.

중국 규제 기관은 이전에 회사가 추천 알고리즘을 운영하는 방식을 관리하는 규칙을 도입했습니다 . 요구 사항 중 하나는 회사가 사이버 공간 규제 기관에 알고리즘의 세부 정보를 제출해야 한다는 것입니다.

이러한 규정은 이론적으로 모든 종류의 ChatGPT 스타일 기술에 적용될 수 있습니다.