AI 기술 이야기 챗GPT 규제 시작? & 네이버의 AI 화가 출격! (세상이야기 23.04.-02)

<출처> https://www.wired.com/story/chatgpt-generative-artificial-intelligence-regulation/

챗GPT 개인정보 침해 걱정, 규제 시작

인공지능(AI)의 부작용에 대한 우려가 커지는 가운데 미국 정부가 챗GPT와 같은 생성형 AI 관련 규제를 마련하기 위해 시동을 걸었다. 유럽과 중국에 이어 AI의 안전한 개발을 위한 규제가 세계로 확산하는 국면이다.

미국 상무부 산하 국가통신정보청(NTIA)은 11일(현지시간) 새로운 AI 모델이 출시되기 전 잠재적 위험성을 내포하고 있는지 확인하는 인증 절차를 포함한 일련의 책임 조치를 도입하는 것에 대해 향후 60일 동안 공개 의견 수렴 절차를 진행한다고 밝혔다. 미국 정부 차원에서 AI 규제를 검토하는 것은 이번이 처음이다.

NTIA는 “식품과 자동차가 안전 보증 후 시장에 출시되는 것처럼 AI 시스템도 대중과 정부, 기업에 안전성을 입증할 필요가 있다”고 규제 필요성을 강조했다. NTIA를 이끄는 앨런 데이비슨 차관보는 “AI가 책임감 있게 사용될 수 있도록 가드레일을 설치해야 한다”고 말했다.

 

조 바이든 대통령은 지난주 백악관에서 과학자 자문위원회와 만난 자리에서 “생성형 AI가 위험한지는 두고봐야겠지만 그럴 수도 있다”며 “기술기업은 제품을 공개하기 전에 제품이 안전한지 확인해야 할 책임이 있다”고 말해 규제를 예고했다.

생성형 AI 기술을 주도하고 있는 오픈AI도 최근 블로그를 통해 “강력한 AI 시스템은 엄격한 안전성 평가를 받아야 한다”며 “필요한 규제를 취할 수 있도록 정부와 적극 협력하고 있다”고 규제 필요성에 공감을 나타냈다.

AI 규제는 세계적으로 확산하고 있다. 이날 니시무라 야스토시 일본 경제산업상은 “다음달 19일 히로시마에서 열리는 주요 7개국(G7) 정상회담에서 생성형 AI의 저작권 침해 등에 관한 규정을 논의할 것”이라고 밝혔다. 선진국을 중심으로 생성형 AI의 관리와 운용 등을 포함한 규정을 마련하는 방안을 논의할 계획이다.

 

중국 정부는 이날 자국의 생성형 AI가 사회주의의 핵심 가치를 반영해야 한다는 ‘생성형 AI 서비스 관리 방안’ 초안을 내놨다.

지난달 말에는 서방 국가 가운데 이탈리아가 처음으로 챗GPT 사용을 금지했다. AI 학습을 위해 개인정보를 수집하고 저장해 개인정보 보호 정책에 위배된다는 이유에서다.

이와 관련해 아일랜드, 영국, 독일, 프랑스, 캐나다 등도 관련 조사에 들어갔다.

 

🌳 : AI 기술로 일본 느낌의 일러스트가 쏟아지니 일본은 당장 힘써서 규제하는 것으로 보이고, 중국은 AI기술이 맘대로 날뛰는 모습은 못 볼 것이고, 미국은 아직 잘 모르겠네요.

 

네이버 AI 화가 '라스코' 출격

네이버가 이미지 생성 인공지능(AI) 서비스 시장에 뛰어들었다. ‘칼로’를 앞세운 카카오와 치열한 경쟁이 예상된다.

13일 정보기술(IT)업계에 따르면 네이버 자회사인 스노우는 이달 초 이미지 생성 AI 서비스 ‘라스코AI(Lasco AI)’의 베타 서비스를 출시했다. 서비스 운영은 스노우의 자회사 슈퍼랩스가 맡고 있다. 브랜드명은 프랑스 도르도뉴 지역 라스코(lascaux) 동굴에서 따왔다. 구석기시대인 기원전 1만5000년에 그려진 벽화로 유명하다. 스노우는 증강현실(AR) 카메라 앱 ‘스노우’와 메타버스 서비스 ‘제페토’ 등으로 유명한 회사다.

현재 라스코AI는 글로벌 채팅 플랫폼 디스코드의 채널 형태로 운영되고 있다. 판타지 배경과 게임 캐릭터, 애니메이션, 실사 등 다섯 가지 스타일의 이미지를 생성할 수 있다. 라스코AI 채널에 접속해 명령어(/gen)와 함께 자신이 원하는 이미지를 묘사하는 단어를 영어로 입력하면 된다. 서비스를 이용하려면 채널에서 제공하는 크레디트가 필요하다. 현재는 매일 크레디트를 제공해 무료로 이용할 수 있다. 조만간 디스코드가 아닌 일반 웹사이트에서 정식 서비스를 시작할 계획이다.

 

스노우 관계자는 “이미지 생성 AI 기반 서비스가 제공하는 화풍은 한정적인 데 비해 라스코는 본인이 좋아하는 화풍을 학습시켜 새로운 엔진을 만들 수 있도록 할 계획”이라며 “민속화 추상화 등 본인이 선택한 화풍을 생성하는 엔진을 만들 수 있게 될 것”이라고 설명했다.

이미지 생성 AI 서비스는 지난해 오픈AI가 ‘달리2’를 출시한 것을 기점으로 빠르게 늘어나고 있다. 해외에선 미드저니, 스테이블 디퓨전 등이 경쟁 중이다. 카카오브레인의 칼로와 스타트업인 라이언로켓의 ‘스포키’ 등 국내 업체들의 서비스도 하나둘 등장하고 있다.

 

🌳 : AI기술의 군웅할거.. 앞으로가 기대되면서 걱정되네요..

https://www.hankyung.com/international/article/2023041234931

챗GPT가 이런 일까지…미국서 'AI 규제' 꺼내든 까닭은

https://www.hankyung.com/it/article/2023041365131

민속화도 OK…네이버 AI 화가 '라스코' 출격