이번 주 AI 뉴스: 유엔, 글로벌 AI 거버넌스 기구 제안, 라이온스게이트, 런웨이와 AI 교육 협력 추진

오늘의 AI 뉴스에서는 오픈AI의 영리 목적 전환, 과학자들이 AI 위험에 대한 글로벌 규제을 촉구하고, 구글이 AI로 생성된 이미지에 라벨을 붙이는 도구를 소개한다.

투자자들이 수익 잠재력에 주목하면서 오픈AI가 비영리 단체 탈피 가능성

오픈AI는 내년에 영리 모델로 전환하여 구조를 간소화하고 투자자의 우려와 직원들의 혼란을 해소할 계획이다. 이러한 전환은 65억 달러 규모의 펀딩 라운드와 맞물려 잠재적으로 기업 가치를 1,500억 달러로 끌어올릴 수 있다.

Soooo @OpenAI starts as a non profit to help humanity, then changes and charges high fees for profit to help further along the gap between the rich and poor.

Seems like they better hope the future ends up good or they will become the biggest villains in human history.

— fleshpistol.sol 🔫 (@fleshpistol) September 15, 2024

중국, AI 생성 콘텐츠에 대한 의무 라벨 제안

중국 사이버 공간 관리국은 AI로 생성된 콘텐츠에 눈에 보이는 로고나 숨겨진 메타데이터를 명확하게 표시하도록 하는 새로운 규칙을 제안했다. 플랫폼은 이러한 라벨을 확인해야 하며, 이 규칙은 2024년 10월 14일에 끝나는 공개 의견 수렴 기간을 거친 후 시행될 예정이다.

구글, AI와 인공위성을 사용하여 새로운 산불 발견 지원

구글 리서치는 전 세계 산불을 실시간으로 감지하고 추적하기 위한 위성 시스템인 FireSat을 출시한다. 첫 번째 위성은 2025년에 발사될 예정이다. 이 프로젝트에는 1,300만 달러의 자금이 투입됐다.

AI 과학자들, AI 통제력 상실에 대한 두려움이 커지면서 글로벌 비상 계획 촉구

AI 연구자들은 통제할 수 없는 AI의 위험을 관리하기 위한 글로벌 감독 시스템을 촉구하며 재난을 예방하기 위한 국제 협력의 필요성을 강조하고 있다. 이들은 첨단 AI로 인한 위험에 대처하기 위한 비상 대비, 안전 조치, 독립적인 연구를 위한 단계를 제안한다.

Leading computer scientists from around the world, including @Yoshua_Bengio, Andrew Yao, @yaqinzhang and Stuart Russell met last week and released their most urgent and ambitious call to action on AI Safety from this group yet.🧵 pic.twitter.com/qXknvCMBTV

— International Dialogues on AI Safety (@ais_dialogues) September 16, 2024

인공지능으로 생성된 동영상과 더욱 간결해진 앱 디자인을 선보이는 스냅챗

스냅챗은 스냅 지도와 스토리를 제거하여 탐색 기능을 강화한 더욱 간소화된 앱 디자인과 함께 일부 크리에이터가 텍스트 프롬프트에서 AI 동영상을 생성할 수 있는 스냅 AI 동영상을 도입한다.

We’re testing a simplified version of @Snapchat centered around communicating with friends, taking pictures, and entertainment. 📷Here’s what to expect: https://t.co/BuKjTR41Gl pic.twitter.com/pTlXn6KOeC

— Snap Inc. (@Snap) September 17, 2024

구글, AI가 생성한 이미지를 더 쉽게 발견할 수 있도록 지원

구글은 C2PA 메타데이터를 사용하여 구글 이미지 및 렌즈와 같은 제품에서 AI가 생성한 이미지를 식별하고, 투명성을 높이고 잘못된 정보를 방지하기 위해 AI의 개입을 드러내는 새로운 기능을 도입할 예정이다.

블랙록과 마이크로소프트, 300억 달러 규모의 AI 인프라 펀드 조성

블랙록과 마이크로소프트는 엔비디아 및 MGX의 지원을 받아 300억 달러 규모의 AI 인프라 펀드를 출범하며, 700억 달러의 부채 조달이 예상된다. 이 펀드는 주로 미국과 파트너 국가에 투자하여 AI 개발을 촉진하고 공급망 및 에너지 문제를 해결할 것이다.

유엔 보고서, 글로벌 AI 거버넌스 기구 제안

유엔은 기후 변화에 관한 정부 간 협의체와 유사한 AI 거버넌스를 감독할 글로벌 기구를 제안했다. 이 이니셔티브는 허위 정보와 같은 AI 위험에 대처하기 위한 국제 협력과 개발도상국 지원에 중점을 두고 있다.

We can no longer view photorealistic AI as near future possibility. These images are virtually indistinguishable from actual photographs. Beyond replacing human workers, AI has high potential to be used unethically unless we develop some legal standards around it fast. https://t.co/ZiKvx9msae

— Animation Workers Ignited (@AWorkersIgnited) August 9, 2024

링크드인, AI 모델 학습을 겨냥한 신중한 데이터 정책 업데이트 논란

2024년 11월 20일부터 링크드인은 미국 사용자를 자동으로 데이터 수집 계획에 참여시켜 AI 모델을 학습시킬 예정이어서 사용자 동의가 부족하다는 반발을 불러일으키고 있다. 유럽 사용자는 더 엄격한 개인정보 보호법으로 인해 제외된다.

🚨Heads up, LinkedIn just opted everyone into training their AI.

Go to Settings->Data Privacy->TURN OFF data for generative AI improvement 🚨 pic.twitter.com/u8CcftVRIF

— Chey Curtis (@Cheyenne_Curtis) September 18, 2024

라이온스게이트, 스튜디오의 영화에 AI를 학습시키는 계약 체결

라이온스게이트는 AI 기업 런웨이와 협력하여 제작 비용을 절감하기 위해 자사 콘텐츠를 사용하는 모델을 개발하고 있다. 런웨이는 AI로 생성된 닮은꼴에 대한 우려가 커지는 가운데 할리우드 프로젝트에 AI 도구를 적용함으로써 이득을 얻을 수 있다.

Today we are excited to announce that we have entered into a first-of-its-kind partnership with @Lionsgate to bring our next generation of storytelling tools into the hands of the world’s greatest storytellers.

Learn more: https://t.co/0Yg9F1b7Sq

— Runway (@runwayml) September 18, 2024

알리바바, 100개 이상의 오픈 소스 AI 모델과 새로운 텍스트-비디오 툴 출시

알리바바는 Qwen 2.5와 텍스트-비디오 툴을 포함한 100개 이상의 AI 모델을 출시했다. 0.5억에서 720억 개의 매개 변수에 이르는 이 모델들은 다양한 산업에 맞게 설계되었다. 업그레이드된 Qwen-Max 2.5는 경쟁사보다 성능이 뛰어나며, 알리바바의 제너레이티브 AI 입지를 강화할 것으로 기대된다.

메타, EU AI 규제에 대한 우려를 표명하는 공개 서한 발표

50개 이상의 기업이 일관성 없는 규정이 유럽의 발전을 저해하고 있다며 EU에 AI 규정을 명확히 할 것을 촉구했다. 이들은 AI 학습을 위해 유럽 데이터를 사용할 수 있도록 명확한 가이드라인이 필요하다고 강조했다.

Meta, along with 59 other companies including Spotify and Ericsson, have written an open letter to the EU calling for AI regulatory certainty. The letter was published today in multiple outlets across the EU. This one is from the FT. pic.twitter.com/hFf8OziNVg

— Andrew Curran (@AndrewCurran_) September 19, 2024