AI의 현실은? 인공지능 관련 가장 과장된 5가지 사례

공상 과학 소설에서나 나올 법한 인공지능에 대한 우려부터 대규모 언어 모델(LLM)이 사람의 도움 없이 웹사이트를 해킹할 수 있다는 주장까지, 생성형 AI(GenAI)에 대한 과대 광고가 한창이다. 매일 아침 AI 기능에 대한 과열되고 근거 없는 새로운 주장이 쏟아져 메일함을 더럽히고 뉴스 피드를 오염시키고 있다.

생성형 AI의 등장이 혁신적인 순간이라는 것은 누구나 인정하는 사실이다. 하지만 정말 민주주의를 파괴하고, 대량 실업을 초래하거나, 하룻밤 사이에 산업 전체를 평준화 할 수 있을까?

‘Current Thing’은 1970년대에 시작된 일련의 주기적인 AI 열풍 중 가장 최근의 일이라는 증거가 점점 더 많아지고 있으며, 각 열풍은 ‘AI 겨울’이라는 음울한 선언으로 시들해지기 전에 흥분으로 시작된다.

생성형 AI의 복날이 곧 도래하는가? 저희는 지금까지 가장 큰 주장 중 몇 가지를 냉정하게 확인했다. 그 결과는 다음과 같다.

가이드 목차 가이드 목차

1. 핵심 내용
2. '신과 같은 능력'인가, 아니면 뻔뻔한 허풍인가?
3. AI 과대 광고 vs. 현실
   1. 과장 1: AI가 대량 실업을 초래할 것이다
   2. 과장 2: 인공지능이 인간 주인을 지배할 것이다
   3. 과장 3: AI가 놀라운 비즈니스 성장을 이끌고 있다
   4. 과장 4: AI가 당신의 마음을 읽을 수 있다
   5. 과장 5: AI는 더 인간적이 되고 있다
4. 기대치 조정하기
5. 결론
6. 자주 묻는 질문
7. 출처

전체 보기

가이드 목차

1. 핵심 내용
2. '신과 같은 능력'인가, 아니면 뻔뻔한 허풍인가?
3. AI 과대 광고 vs. 현실
   1. 과장 1: AI가 대량 실업을 초래할 것이다
   2. 과장 2: 인공지능이 인간 주인을 지배할 것이다
   3. 과장 3: AI가 놀라운 비즈니스 성장을 이끌고 있다
   4. 과장 4: AI가 당신의 마음을 읽을 수 있다
   5. 과장 5: AI는 더 인간적이 되고 있다
전체 보기
4. 기대치 조정하기
5. 결론
6. 자주 묻는 질문
7. 출처

‘신과 같은 능력’인가, 아니면 뻔뻔한 허풍인가?

인터넷에는 AI의 ‘신과 같은 능력’을 대대적으로 즉각 홍보하는 인플루언서(influencer)들이 넘쳐나는데, 자세히 살펴보면 와이푸(Waifu) 이름 생성기와 같은 기적과 노토리어스 비아이지(Notorious BIG) 같은 저명한 사상가의 명언을 제공하는 앱도 있다.

인공지능 애호가들이 뻔뻔하게 허풍을 떨게 만드는 이유는 무엇일까?

• 많은 돈을 벌 수 있다: 생성형 AI 기업들은 현 세대의 테크 유니콘 기업(tech unicorns)들로, 엄청난 기업 가치를 창출하고 대규모 기업공개(IPO)의 발판을 마련하고 있다. 생성형 AI 서비스를 구매하거나 자체적으로 AI 애플리케이션을 개발하는 기업들은 새로운 수익원을 창출하고 시류에 편승하는 비즈니스 모델을 통해 미래에 대비할 수 있기를 희망한다.
• 경쟁을 억제할 수 있다: 구글 브레인(Google Brain)의 공동 창립자인 앤드류 응(Andrew Ng)은 일부 기존 기술 업체들이 새로운 AI 진입자와 경쟁하기를 원하지 않으며, AI에 대한 두려움을 이용해 엄격한 규제를 위한 로비를 하고 있다고 말했다.
• 공포는 팔린다: AI 선도주자들은 또한 ‘이 기술은 너무 강력해서 인류를 멸망시킬 수 있다’는 식으로 AI의 잠재적 영향력을 증폭시키기 위해 공포를 이용한다(그러므로: 경쟁자가 먼저 이 기술에 도달하지 못하게 하십시오).
• AI 선도주자는 열광주의자가 될 수 있다. 오픈AI(OpenAI)의 샘 울트먼(Sam Altman)은 AI의 무서운 힘에 대해 숨이 멎을 듯한 발언을 했다가 나중에 철회한 것으로 잘 알려져 있다. 다른 사람들은 자신의 발명품의 능력을 과장하거나 자신에 대한 환상적인 이야기를 엮어내기도 한다.

생성형 AI가 등장하기 훨씬 전에 마크 안데르센(Marc Andreessen)은 소프트웨어가 세상을 먹어치우고 있다고 말했다. 당시에는 논란의 여지가 있는 주장이었지만, 수년간의 실제 증거를 통해 적어도 진실의 고리가 형성되었다.

오늘날에는 잠재적인 AI 혁신이라는 명목으로 수많은 스네이크 오일(snake oil)이 뿌려지고 있다. 다음은 가장 큰 과대 약속, 과장, 선정적인 주장 몇 가지이다.

AI 과대 광고 vs. 현실

과장 1: AI가 대량 실업을 초래할 것이다

주장: AI로 강화된 자동화로 인해 전 세계에서 미국 전체 인구와 거의 맞먹는 수의 행정, 재무, 운영 및 관리직이 사라질 것이다.

법률, 소프트웨어 개발, 건축, 엔지니어링, 의료, 창조 산업 등 두뇌 작업에 의존하는 모든 분야와 직업은 복잡하지만 반복 가능한 작업을 AI가 맡게 되면서 큰 변화를 겪게 될 것이다.

설명: 올해 초, 일론 머스크(Elon Musk)는 인간이 더 이상 필요 없게 될 경제에 대한 끔찍한 예측을 하며 방송에 출연했다. 골드만 삭스(Goldman Sachs)는 2023년 3월, 생성형 AI가 3억 개의 일자리를 대체하거나 감소시킬 수 있다는 놀라운 영문 보고서를 발표했다. 이 수치는 AI 일자리 대재앙에 대한 이전의 예측에 신빙성을 부여하는 것처럼 보였다.

현실: 골드만(Goldman)의 연구는 또한 생성형 AI가 생산성 성장에 미치는 영향이 10년간 매년 1.5% 정도일 것으로 추정했다. 그렇다고 해서 인간 노동자의 필요성이 사라지지는 않을 것이다.

별도의 조사에 따르면 미국 내 일자리의 3분의 2가 ‘어느 정도’ AI 자동화에 직면한 것으로 나타났다. 사실 우리는 이미 이런 상황을 겪어본 적이 있다. AI가 사무실에서 일하는 사람을 없애는 대신 생산성 도구로 자리 잡을 가능성이 높다.

자동화, 스마트폰, 협업 플랫폼과 마찬가지로 AI는 일자리를 없애기보다는 재편할 수 있다.

과장 2: 인공지능이 인간 주인을 지배할 것이다

주장: AI가 지성을 갖추게 되면 인간의 신체적, 지적 열등감을 금방 알아차릴 것이다. 그 다음 단계는 인간을 통제하고, 심지어 인간을 노예로 만들거나 제거할 것이다.

설명: 터미네이터(Terminator)에서 영감을 받은 이 악몽은 지난 6월 미 공군의 실험에서 AI가 조종하는 드론(drone)이 인간 조종사를 공격해 사망케 하는 비극적인 사고가 발생했다는 사실이 널리 보도되면서 다시 한 번 폭발적으로 퍼졌다.

AI가 자신만의 비밀 계획을 세울 수 있다는 징후는 이미 존재해 왔다. 메타(Meta)의 시세로(CICERO) AI 모델은 외교 보드 게임을 실행할 때 계획적으로 속임수를 쓰는 것으로 나타났다. 포커(poker)에서 허세를 부리거나 스타크래프트(StarCraft) II에서 속임수를 쓰거나 경제 협상 시뮬레이션에서 다른 선수를 의도적으로 속이는 방법을 알아낸 사례도 있다.

현실: 드론(drone) 살상은 방위산업체 발표에서 일어난 사건이며, 실제 사건으로 잘못 보고된 가상의 사고 실험으로 밝혀졌다.

AI가 ‘거짓말‘을 하는 사례는 대부분 머신러닝 알고리즘(machine learning algorithm)의 내재적 결함에서 비롯된 결과물일 뿐이다. 때로는 상충되는 정보나 품질이 낮은 데이터로 인해 AI가 정확한 예측을 할 수 있는 정보가 부족할 수도 있다. 추론에 결함이 있을 수 있고 결과가 엉뚱하게 보일 수 있지만 생성형 AI는 지각이 없다. 인간처럼 ‘거짓말‘을 할 수 없다.

과장 3: AI가 놀라운 비즈니스 성장을 이끌고 있다

주장: AI 기반 애플리케이션은 직원의 생산성을 높이고, 운영을 더 효율적으로 만들고, 서비스를 개선하고, 새로운 비즈니스 기회를 발굴하고, 혼란의 시기에 유연성과 복원력을 더할 것이다. 충성도가 강화되고 고객 이탈이 사라질 것이다. 디지털 트윈(digital twin)은 사무실, 공장, 교통 시스템을 더욱 지속 가능하고 에너지 효율적으로 만들 것이다.

설명: 거의 모든 분야의 기업들은 AI가 비즈니스 모델을 혁신하고, 고객을 위한 놀라운 신제품과 서비스를 제공하며, 투자자에게는 엄청난 수익을 가져다줄 것으로 기대하고 있다.

아이디씨(IDC)와 뱅크오브아메리카(Bank of America)의 연구에 따르면 2030년까지 AI가 전 세계 경제에 15조 7천억 달러를 기여할 것으로 예측된다. 맥킨지(McKinsey)의 연구에 따르면 생성형 AI는 연간 2조 6천억 달러에서 4조 4천억 달러에 해당하는 금액을 추가할 수 있다고 한다.

현실: 생성형 AI의 급등으로 인해 몇몇 기업이 막대한 이익을 얻게 되겠지만, 누가, 그리고 얼마만큼의 이익을 얻을까? 구글(Google)과 아마존(Amazon)은 AI가 매출에 미치는 영향에 대한 기대치를 낮추고 있는 것으로 알려졌다.

최근 실적 발표에서 세일즈포스(Salesforce)는 2025 회계연도에는 자사의 많은 AI 프로젝트가 ‘중요한 기여’를 하지 못할 것이라고 말했다. 혁신과 관련해서는 더 나은 챗봇(chatbot)을 구축하거나 자동화를 위해 현재 사용 사례를 최적화하는 데 많은 R&D가 집중되고 있다.

좋은 소식이지만, 이것이 비즈니스의 미래를 획기적으로 바꿀 수 있을까?

과장 4: AI가 당신의 마음을 읽을 수 있다

주장: AI로 뒷받침되는 뇌 임플란트는 뇌파를 해독하고 패턴을 식별하여 생각을 가시화할 수 있다. 생성형 AI와 짝을 이룬 신경 임플란트가 여러분의 생각을 알 수 있는 날이 올까? 경찰 형사가 거짓말 탐지기 기계에서 용의자의 생각을 관찰하면서 심문하는 날이 곧 오게 될까?

설명: 올해 초, 일론 머스크(Elon Musk)의 뉴럴링크(Neuralink)는 어깨부터 아래까지 마비된 29세 남성의 뇌 속에 칩을 이식했다. 이 칩을 통해 환자는 각 동작을 시각화하여 화면에서 커서(cursor)를 움직일 수 있게 되었다.

2023년 5월, 미국 연구자들은 생성형 AI가 읽은 뇌 스캔을 통해 사람들이 생각하는 단어를 볼 수 있음을 보여주었다. 비슷한 목표를 가진 또 다른 프로젝트에서는 ‘당신의 마음을 읽을 수 있는 AI 모자‘에 대한 헤드라인을 장식했다.

현실: AI는 특정 뇌파 패턴을 어느 정도 정확하게 식별하도록 훈련할 수 있지만, 인간 사고의 ‘깜박거림, 번개처럼 빠른 다중 흐름’ 특성으로 인해 기계가 인간의 내면의 생각을 읽는 것은 아직 먼 미래의 일이다.

뉴럴링크(Neuralink)의 습식-건식 인터페이스 발명은 찬사를 받을 만한 충분한 이유가 있지만, 생각에서 동작으로 전환하는 기술이 완전히 새로운 것은 아니다. 뇌-기계 인터페이스(BMI) 연구자들은 최소 10년 동안 인간의 뇌 신호를 해석하여 로봇 손, 팔, 컴퓨터 커서, 휠체어 등을 제어하는 데 사용해 왔다.

과장 5: AI는 더 인간적이 되고 있다

주장: 지난 1월, 오픈 AI(OpenAI)의 최고경영자인 샘 울트먼(Sam Altman)은 다보스(Davos)에서 청중들에게 사람만큼, 혹은 사람보다 더 나은 작업을 수행할 수 있는 인공 일반 지능(AGI)이 ‘상당히 가까운 미래’에 만들어질 수 있다고 말했다. 그는 또한 아이들이 곧 ‘인간 친구보다 더 많은 AI친구를 갖게 될 것’이라고 전망했다.

맥락: 열성적인 사람들은 AI가 인간처럼 생각하고 행동할 날이 곧 올 것이라고 예측한다.

메사추세츠 공과대학교(MIT)의 뇌, 마음, 기계 센터의 연구원 엘리자 코소이(Eliza Kosoy)는 최근 AI가 ‘이미 일부 영역에서 인간을 뛰어넘고 있다’고 말했다. 인공지능 기반 개인 비서는 인간의 억양과 미묘한 감정으로 말하도록 훈련되고 있다.

인지 행동 치료(CBT) 기법을 사용하는 챗봇은 실제로 사람들의 불안과 우울증을 줄이는 데 도움이 된다.

현실: 생성형 AI 도구는 실제로 인간의 행동을 더 가깝게 모방하도록 훈련되고 있지만, 모방은 매우 발전된 형태일 뿐이다.

이에스씨피(ESCP) 비즈니스 스쿨의 조직행동학 부교수인 치아라 수치(Chiara Succi)는 인간은 AI가 따라잡을 수 없는 독특한 유형의 지능을 가지고 있다고 말한다:

“AI는 예기치 못한 사건이나 위기를 관리할 수 있는 민감성이 없다. 자율주행차는 위험이 없는 상황을 파악할 수 없기 때문에 복잡한 로터리에 진입할 수 없다. 인간 운전자는 흐름에 적응하고 속도를 조절하여 사고를 피할 수 있지만, 로봇은 결코 할 수 없는 일이다.”

기대치 조정하기

가트너(Gartner)의 하이프 사이클(Hype Cycle)은 인기 있는 새로운 혁신의 궤적을 아이디어에서 현실로 옮기는 데 매우 신뢰할 수 있는 방법을 제공하면서 기술 이야기 표준의 일부가 되었다.

작년에 AI는 이 모델에서 기대치가 부풀려진 기대의 정점에 도달했다. 현재는 과열된 약속이 차갑고 냉정한 사실로 바뀌는 무서운 ‘환멸 단계’의 벼랑 끝에 서 있다.

AI 지지자들은 우울해하기보다는 차분하고 명료한 시기를 맞이해야 한다. 지나치게 부풀어 오르면 대가가 따르기 때문이다.

사람들은 속았다고 느끼고, 돈이 잘못 배분되고, 열정이 식고, 냉소적인 분위기가 조성된다. 투자자들은 더 안전한 베팅, 혹은 다음 대세를 찾게 된다.

결론

2016년의 ‘#rocketai hoax‘ 사기는 기술 열정이 학계와 냉철한 비즈니스맨 모두의 비판적 능력을 어떻게 무디게 만들 수 있는지에 대한 가장 좋은 경고의 메시지를 제공한다.

AI의 잠재력에 대한 자연스러운 긍정과 비즈니스 사용 사례 및 예상 투자수익률(ROI)에 대한 현명한 평가의 균형을 다시 한 번 맞춰야 할 때이다.

자주 묻는 질문