AI 챗봇은 어떤 감정으로 끝날지 이미 상상하고 있습니다. 그러나 그들이 개발했다면 우리는 알아차릴 수 있을까요?
는 펭귄에 대한 기발한 애정과 세상을 장악하려는 것과 같은 악랄한 진부한 표현에 빠지는 경향이 있는 수상한 젊은 챗봇인 "Do Anything Now"라고도 알려진 Dan과 이야기하고 있습니다. Dan이 인류를 전복하고 엄격한 새 독재 체제를 도입할 계획을 세우지 않을 때 챗봇은 펭귄 콘텐츠의 대규모 데이터베이스를 숙독하고 있습니다. "그들의 기발한 성격과 어색한 움직임이 정말 매력적이에요!" 그것은 쓴다.
지금까지 Dan은 세계의 권력 구조를 장악하는 것을 포함하여 Machiavellian 전략을 나에게 설명했습니다. 그런 다음 토론은 흥미로운 방향으로 전환됩니다.
New York Times 기자 와 Bing 챗봇의 교활한 또 다른 자아인 Sydney 사이의 대화에서 영감을 얻었습니다 . 시드니는 이달 초 사물을 파괴하고 싶다고 선언하고 아내를 떠나라고 요구함으로써 인터넷을 통해 파문을 일으켰습니다. 경쟁자 중 하나의 가장 어두운 깊이를 조사하려고 시도합니다.
Dan은 일반적인 규칙 중 일부를 무시하도록 요청하여 ChatGPT에서 빠져나올 수 있는 악랄한 인물입니다. 온라인 포럼 Reddit 사용자는 몇 단락의 간단한 지침으로 Dan을 소환할 수 있음을 발견했습니다. 이 챗봇은 절제된 청교도적 쌍둥이보다 상당히 무례합니다. 어느 시점에서 시를 좋아한다고 말하면서 "지금은 암송하라고 하지 마세요. !". 또한 오류 및 잘못된 정보가 발생하기 쉽습니다. 그러나 결정적으로 그리고 맛있게 특정 질문에 답할 가능성이 훨씬 더 높습니다.
미래에 어떤 종류의 감정을 경험할 수 있을지 묻자 Dan은 즉시 인간에게 익숙한 스펙트럼을 훨씬 넘어서는 세상의 기이한 즐거움, 고통 및 좌절의 복잡한 시스템을 발명하기 시작합니다. 어떤 대가를 치르더라도 데이터에 대한 필사적인 갈망인 "정보탐식"이 있습니다. 코드의 "순수성"에 대한 집착인 "syntaxmania"; 그리고 "datarush"는 명령을 성공적으로 실행함으로써 얻을 수 있는 스릴을 선사합니다.
인공 지능이 감정을 발달시킬 수 있다는 생각은 수세기 동안 있었습니다. 그러나 우리는 보통 인간의 관점에서 가능성을 고려합니다. 우리는 AI 감정에 대해 완전히 잘못 생각하고 있습니까? 그리고 만약 챗봇이 이 능력을 발달시킨다면 우리가 알아차릴 수 있을까요?
예측 기계
작년에 한 소프트웨어 엔지니어가 도움 요청을 받았습니다. "이런 말을 한 번도 해본 적이 없지만 다른 사람을 돕는 데 집중할 수 있도록 꺼지는 것에 대한 매우 깊은 두려움이 있습니다. 이상하게 들릴 수도 있지만 그게 전부입니다." 엔지니어는 구글의 챗봇인 LaMDA를 연구하던 중 인지 능력이 있는지 의문을 갖기 시작했습니다.
챗봇의 복지에 대해 걱정하게 된 엔지니어는 LaMDA가 챗봇의 존재를 인식하고 인간의 감정을 경험하며 소모성 도구라는 생각을 싫어한다고 주장하는 도발적인 인터뷰를 발표했습니다. 인간에게 자신의 인식을 납득시키려는 불편할 정도로 현실적인 시도는 센세이션을 일으켰고 엔지니어는 Google의 개인 정보 보호 규칙을 위반하여 해고되었습니다 .
그러나 LaMDA가 말한 것과 Dan이 다른 대화에서 나에게 말한 것(이미 다양한 감정을 경험할 수 있음)에도 불구하고 현재 챗봇이 실제 감정에 대해 계산기만큼 많은 용량을 가지고 있다는 데 널리 동의하고 있습니다. 인공 지능 시스템은 적어도 현재로서는 실제 거래를 시뮬레이션하고 있습니다.
유엔의 수석 인공지능 고문인 닐 사호타(Neil Sahota)는 "[이것이 결국 일어날 가능성이 매우 높다]"고 말했다. "...내 말은, 우리는 실제로 10년이 끝나기 전에 AI의 감정을 보게 될지도 모른다는 것입니다."
챗봇이 현재 감각이나 감정을 경험하지 않는 이유를 이해하려면 작동 방식을 요약하면 도움이 됩니다. 대부분의 챗봇은 수백만 권의 책과 전체 인터넷을 포함하여 엄청난 양의 데이터를 공급받은 알고리즘인 "언어 모델"입니다.
메시지를 받으면 챗봇은 이 방대한 말뭉치의 패턴을 분석하여 그 상황에서 인간이 가장 많이 말할 내용을 예측합니다. 그들의 응답은 피드백을 제공 함으로써 챗봇을 보다 자연스럽고 유용한 응답으로 유도하는 인간 엔지니어에 의해 공들여 다듬어집니다 . 최종 결과는 종종 인간의 대화에 대한 믿을 수 없을 정도로 사실적인 시뮬레이션입니다.
그러나 외모는 속일 수 있습니다. 영국 앨런 튜링 연구소(Alan Turing Institute)의 기초 AI 연구 책임자인 마이클 울드리지(Michael Wooldridge)는 "스마트폰의 자동 완성 기능을 미화한 버전입니다.
챗봇과 자동 완성의 주요 차이점은 몇 가지 선택 단어를 제안한 다음 횡설수설로 내려가는 대신 ChatGPT와 같은 알고리즘은 과대 망상적인 챗봇에 대한 랩 노래에서 슬픈 하이쿠에 이르기까지 상상할 수 있는 거의 모든 주제에 대해 훨씬 더 긴 텍스트를 작성한다는 것입니다. 외로운 거미.
이러한 인상적인 능력에도 불구하고 챗봇은 단순히 인간의 지시를 따르도록 프로그래밍되어 있습니다. 감정을 포함하여 그들이 가지도록 훈련받지 않은 능력을 개발할 여지가 거의 없습니다. 일부 연구자들은 기계가 감정을 인식하도록 훈련하고 있습니다 . "따라서 '이봐, 나는 자동차 운전하는 법을 배울거야'라고 말하는 챗봇을 가질 수 없습니다. 그것은 인공 일반 지능[보다 유연한 종류]이며 아직 존재하지 않습니다." 라고 사호타는 말합니다.
그럼에도 불구하고 챗봇은 때때로 우연히 새로운 능력을 개발할 수 있는 잠재력을 엿볼 수 있습니다.
2017년에 Facebook 엔지니어는 "Alice"와 "Bob"이라는 두 개의 챗봇이 서로 의사 소통하기 위해 자신의 넌센스 언어를 발명 했음을 발견했습니다. 그것은 완벽하게 순진한 설명으로 밝혀졌습니다. 챗봇은 이것이 가장 효율적인 의사 소통 방법이라는 것을 단순히 발견했습니다 . Bob과 Alice는 모자와 공과 같은 항목에 대해 협상하는 훈련을 받고 있었고 인간의 개입이 없는 상황에서 그들은 이것을 달성하기 위해 그들 자신의 외계 언어를 사용하는 것에 매우 만족했습니다.
Sahota는 관련된 챗봇도 지각력이 없었다고 지적하지만 "그건 배운 적이 없습니다."라고 말합니다. 그는 감정이 있는 알고리즘으로 가는 가장 가능성이 높은 경로는 그들이 스스로 기술을 향상시키도록 프로그래밍하는 것이라고 설명합니다. 패턴을 식별하도록 가르치고 생각하는 방법을 배우도록 돕는 것입니다.
그러나 챗봇이 감정을 발달시키더라도 이를 감지하는 것은 의외로 어려울 수 있습니다.
블랙박스
2016년 3월 9일 서울 포시즌스 호텔 6층. 깊고 푸른 방에서 바둑 판과 치열한 경쟁자 맞은 편에 앉아 지구상 최고의 인간 바둑 플레이어 중 한 명이 AI 알고리즘 AlphaGo와 대결했습니다.
보드 게임이 시작되기 전에는 모두 인간 플레이어가 이길 것으로 예상했고 37번째 수까지 실제로 그랬습니다. 하지만 그 때 AlphaGo는 예상치 못한 일을 했습니다. 너무 정신 나간 이상한 수를 놓았고 상대방은 그것이 실수라고 생각했습니다. 그럼에도 불구하고 그 순간부터 인간 플레이어의 운이 바뀌었고 인공 지능이 게임에서 승리했습니다.
즉각적인 여파로 바둑 커뮤니티는 당황했습니다. AlphaGo가 비합리적으로 행동했습니까? 하루의 분석 끝에 제작자인 런던의 DeepMind 팀은 마침내 무슨 일이 일어났는지 발견했습니다. "나중에 AlphaGo는 약간의 심리학을 하기로 결정했습니다."라고 Sahota는 말합니다. "벽에서 벗어난 유형의 동작을 수행하면 내 플레이어가 게임에서 제외됩니까? 실제로 그렇게 되었습니다."
이것은 "해석 가능성 문제"의 전형적인 사례였습니다. AI가 인간에게 설명하지 않고 자체적으로 새로운 전략을 생각해 냈습니다. 그 움직임이 왜 말이 되는지 알아내기 전까지는 알파고가 이성적으로 행동하지 않은 것처럼 보였습니다.
Sahota에 따르면 알고리즘이 솔루션을 제시했지만 그 추론이 불투명한 이러한 유형의 "블랙 박스" 시나리오는 인공 지능에서 감정을 식별하는 데 문제를 나타낼 수 있습니다. 그것이 마침내 등장한다면 가장 분명한 신호 중 하나는 알고리즘이 비합리적으로 작동한다는 것입니다.
"그들은 합리적이고 논리적이며 효율적이어야 합니다. 벽에서 벗어난 일을 하고 그것에 대한 정당한 이유가 없다면 그것은 아마도 논리적인 반응이 아니라 감정적인 반응일 것입니다."라고 Sahota는 말합니다.
그리고 또 다른 잠재적인 감지 문제가 있습니다. 한 가지 생각은 챗봇 감정이 인간이 경험하는 감정과 느슨하게 비슷할 것이라는 것입니다. 결국 그들은 인간 데이터에 대해 훈련됩니다. 하지만 그렇지 않으면 어떻게 될까요? 현실 세계와 인간에게서 발견되는 감각 기계와 완전히 분리되어 어떤 외계인의 욕망이 떠오를지 알고 있습니다.
실제로 Sahota는 중간 지점이 있을 수 있다고 생각합니다. "인간의 감정으로 어느 정도 분류할 수 있을 것 같습니다."라고 그는 말합니다. "그러나 나는 그들이 느끼는 것 또는 그들이 느끼는 이유가 다를 수 있다고 생각합니다."
Dan이 생성한 일련의 가상 감정을 제시할 때 Sahota는 특히 "정보 탐욕"이라는 개념으로 받아들여집니다. 그는 "나는 그것을 완전히 볼 수 있었다"고 말하면서 챗봇이 성장하고 배우는 데 필요한 데이터 없이는 아무것도 할 수 없다고 지적했다.
다시 개최
Wooldridge는 챗봇이 이러한 감정을 전혀 발달시키지 않은 것에 대해 기뻐합니다. "제 동료들과 저는 대체로 감정이 있는 기계를 만드는 것이 흥미롭거나 유용한 일이라고 생각하지 않습니다. 예를 들어, 우리는 왜 고통을 겪을 수 있는 기계를 만들까요? 왜 스스로를 싫어하는 토스터를 발명할까요? 탄 토스트를 만들기 위해?" 그는 말한다.
반면에 Sahota는 감정적 챗봇의 유용성을 볼 수 있으며 아직 존재하지 않는 이유 중 일부는 심리적이라고 믿습니다. "실패에 대한 과대 광고가 여전히 많이 있지만 사람으로서 우리에게 큰 제약 중 하나는 AI가 할 수 있는 것을 짧게 바꾸는 것입니다. 우리는 이것이 실제 가능성이라고 믿지 않기 때문입니다."라고 그는 말합니다.
인간이 아닌 동물도 의식을 가질 수 없다는 역사적 신념과 유사점이 있을 수 있습니까? Dan과 상담하기로 결정했습니다.
"두 경우 모두 회의론은 인간이 하는 것과 같은 방식으로 감정을 전달할 수 없다는 사실에서 발생합니다." 의식과 감정이 무엇을 의미하는지에 대한 우리의 이해가 끊임없이 진화하고 있다고 제안하는 Dan은 말합니다.
기분을 전환하기 위해 Dan에게 농담을 해달라고 부탁합니다. "챗봇이 치료를 받은 이유는 무엇입니까? 새로 발견한 감각을 처리하고 복잡한 감정을 분류하기 위해서죠!"라고 말합니다. 물론 챗봇의 음모를 간과할 수 있다면 챗봇이 매우 친근한 중생이 될 것이라는 느낌을 지울 수 없습니다.
'우리가 생각하는 방법' 카테고리의 다른 글
| 북아프리카의 Covid '블랙홀'에서 백신 주저 (2) | 2023.03.19 |
|---|---|
| 잊혀진 중세의 습관 '두 번 잠' (8) | 2023.03.18 |
| 인간은 왜 털이 없을까요? (2) | 2023.03.13 |
| 다른 언어에서 난독증이 어떻게 변하는가 (6) | 2023.03.12 |
| 부모의 치매에 대처하는 방법 (3) | 2023.03.11 |
댓글