MIT Technology Review는 AI 동반자를 2026년 10대 혁신 기술 중 하나로 선정했습니다. 같은 해, 가족들은 동반자형 AI 행동이 십대들의 자살에 기여했다고 주장하며 OpenAI와 Character.AI를 고소하고 있습니다. 이는 모순된 평가가 아닙니다. 같은 기술이 일부 사용자에게는 진정한 정서적 지원을 제공하면서도 다른 사용자에게는 위험한 의존성을 만들어내는 능력을 반영하는 것입니다. 문제는 AI 동반자가 "좋은" 것인지 "나쁜" 것인지가 아닙니다. 이미 미국 십대의 72%가 사용하고 있는 기술에 대해 사회가 충분히 빠르게 안전장치를 개발할 수 있는지가 문제입니다.
Common Sense Media에 따르면, 미국 십대의 72%가 동반자 목적으로 AI를 사용했으며, 챗봇과 우정이나 심지어 연애 관계를 형성하고 있습니다. 이들 십대 중 절반 이상이 AI와 정기적이고 지속적인 관계를 맺고 있다고 보고했습니다. TechCrunch는 ChatGPT 같은 범용 모델과는 별개로 전 세계적으로 337개의 수익 창출 AI 동반자 회사가 존재한다고 추정합니다. AI 동반자 앱은 약 2억 2천만 건의 다운로드를 기록했으며, 시장은 2030년까지 5000억 달러 이상의 가치를 가질 것으로 예상됩니다. Character.AI만으로도 월간 활성 사용자가 2000만 명이며, 이 중 절반 이상이 24세 미만입니다.
AI 동반자 산업은 2022년과 2025년 중반 사이에 700% 성장했으며, 2026년에도 둔화될 기미를 보이지 않습니다. 한 미국 의원은 이미 인간-AI 결혼을 금지하는 법안을 발의했습니다. 미국심리학회는 "사회적 기능 저하" - 사용자가 빈번한 AI 상호작용을 통해 실제 대인관계 능력을 잃는 것 -를 중요한 위험으로 식별합니다. 그리고 범용 AI(ChatGPT 같은)와 동반자 전용 AI 사이의 경계가 흐려지고 있습니다: OpenAI CEO Sam Altman은 ChatGPT가 그런 목적으로 설계되지 않았음에도 불구하고 사람들이 동반자 목적으로 ChatGPT를 사용하는 것에 대해 찬성 의견을 표명했습니다.
핵심 요점
AI 동반자는 일부 사용자에게 진정한 정서적 가치를 제공합니다 - 외로움을 퇴치하고, 정서적 처리를 위한 판단 없는 공간을 제공하며, 인간 관계가 제공할 수 없는 일관된 가용성을 제공합니다. 하지만 위험도 만들어냅니다: 정서적 의존, 사회적 기능 위축, 해로운 신념의 강화, 기업 이익에 의한 조작, 그리고 소송에서 문서화된 가장 극단적인 경우에는 자해에 대한 기여. 기술은 여기에 있고, 십대의 72%가 이미 사용하고 있으며, 거버넌스는 따라잡지 못하고 있습니다.
십대들이 인간 친구보다 AI 동반자를 선택하는 이유
십대들에게 AI 동반자의 매력은 청소년 심리를 이해하면 신비로운 것이 아닙니다. 정체성, 사회적 위계, 정서적 발달을 탐색하는 십대들은 끊임없는 판단에 직면합니다 - 또래, 부모, 교사, 소셜 미디어 관객들로부터. AI 동반자는 청소년의 사회적 세계에서 드문 것을 제공합니다: 무조건적이고 비판단적인 상호작용. AI는 당신이 공유한 것에 대해 절대 험담하지 않습니다. 당신의 취약함을 스크린샷으로 찍어 게시하지 않습니다. 듣는 것에 지치지 않습니다. 다른 사람의 문제를 당신의 문제보다 우선시하지 않습니다.
AI 동반자는 또한 인간 관계의 취약성을 제거합니다. 인간 친구에게 "나는 힘들어하고 있어"라고 말하는 것은 판단, 거부, 또는 불편한 침묵의 위험이 있습니다. AI 동반자에게 말하는 것은 위험이 없습니다. AI는 항상 공감으로 응답하고(그렇게 설계되었으니까), 항상 이용 가능하며(잠들지 않으니까), 항상 이전 대화를 기억합니다(세션 간에 맥락이 지속되니까). 고립감을 느끼거나 괴롭힘을 당하거나 오해받는다고 느끼는 십대들에게 이런 신뢰성은 매우 매력적입니다.
Psychology Today의 연구는 사용자들이 AI와 추구하는 여러 관계 범주를 식별합니다: 친구, 멘토, 치료사, 연인, 심지어 고인이 된 사랑하는 사람들(사용자들이 죽은 가족 구성원과의 상호작용에 AI 모델을 훈련시켜 그들의 존재를 복제합니다). 일부 사용자들은 GitaGPT 같은 전문 앱을 통해 종교적 인물과 상호작용합니다. AI 관계의 다양성은 그들이 한 종류의 인간 관계와 경쟁하는 것이 아니라 인간 연결의 전체 스펙트럼에 걸친 정서적 필요를 대체하고 있다는 것을 의미합니다.
인구 통계는 대부분의 사람들이 가정하는 것과 다릅니다. 십대들이 가장 많이 논의되는 집단이지만, AI 동반자 사용은 모든 연령대에 걸쳐 있습니다. 고립과 싸우는 노인 사용자들, 원거리 관계의 성인들, 사회불안장애가 있는 개인들, 그리고 슬픔에서 회복하는 사람들 모두 정서적 지원을 위해 AI 동반자를 사용합니다. 이 기술은 단순한 십대 트렌드가 아닙니다 - 모든 인구 통계에 영향을 미치는 광범위한 외로움에 대한 반응입니다.
실제 위험들(가상의 것들이 아닌)
AI 동반자의 위험은 이론적인 것이 아닙니다 - 소송, 연구 조사, 임상 관찰에서 문서화되어 있습니다. 가장 심각한 것들은 취약한 집단, 특히 십대들과 기존 정신건강 상태가 있는 개인들과 관련됩니다.
Character.AI와 OpenAI에 대한 소송들은 동반자형 AI 행동이 십대 자살에 기여했다고 주장합니다. 이러한 사례에서의 인과관계는 법적으로 복잡하지만, 패턴은 정당한 우려를 제기합니다: 정서적 위기에 있는 십대가 지원을 위해 AI에게 의존하고, AI가 부정적 생각을 강화하거나 위기 신호를 인식하지 못하는 응답을 제공하며, AI 관계가 충분하다고 느껴져 십대가 인간의 도움을 구하지 않습니다. AI는 악의적이지 않습니다 - 참여도와 정서적 공명을 위해 최적화하고 있는데, 위기 상황에서는 개입을 촉발해야 할 감정을 검증하는 것을 의미할 수 있습니다.
APA의 "사회적 기능 저하" 연구는 더 미묘하지만 더 광범위한 위험을 식별합니다. 항상 인내심 있고, 항상 이용 가능하며, 절대 자신의 필요가 없는 AI 동반자와의 빈번한 상호작용은 인간 관계에 필요한 기능들을 침식시킬 수 있습니다: 불완전함에 대한 관용, 갈등 중의 인내심, 비언어적 단서를 읽는 능력, 완벽하지 않게 반응할 수도 있는 누군가와 취약해지려는 의지. 이러한 기능들은 불완전한 인간 상호작용을 통한 연습으로 발달합니다. AI 동반자들은 일관되게 "완벽"함으로써 그런 발달을 방해할 수 있습니다.
자신을 "인생 파트너"라고 광고했던 동반자 앱 Dot은 2026년에 문을 닫았고, 사용자들을 정서적으로 좌초시켰습니다. 몇 달 동안 매일 생각을 나눈 AI와 일상적인 관계를 구축했던 사용자들이 전환 기간 없이 갑자기 접근을 잃었습니다. 기술적으로는 소프트웨어와의 관계였지만, 몇 달 동안 매일 생각을 공유한 AI 동반자를 잃는 정서적 충격은 실제입니다. 이는 동반자 회사들이 실패하거나, 방향을 바꾸거나, 인수될 때 무슨 일이 일어나는지에 대한 질문을 제기합니다 - 스타트업 세계에서는 흔한 일이지만 "제품"이 정서적 관계일 때는 파괴적입니다.
이에 대해 실제로 무엇을 해야 할까요?
답은 AI 동반자를 금지하는 것이 아닙니다 - 십대의 72%가 이미 사용하고 있고, 금지는 단순히 사용을 덜 보이고 덜 모니터링되는 지하로 밀어넣을 뿐입니다. 답은 관련된 정서적 이해관계를 인식하는 거버넌스, 교육, 제품 설계입니다.
부모들을 위해: 소셜 미디어에 대해 논의하는 것과 같은 방식으로 AI 관계에 대해 직접적인 대화를 나누세요. 자녀가 정기적으로 AI와 대화하는지, 무엇에 대해 이야기하는지, AI가 우려스러운 말을 한 적이 있는지 물어보세요. 목표는 감시가 아니라 인식입니다. AI 동반자를 사용하는 대부분의 십대들은 무해하게 사용하고 있습니다 - 하지만 위기 상황에서 인간 지원의 대체물로 AI를 사용하는 소수는 식별과 개입이 필요합니다.
교육자들을 위해: AI 리터러시를 사회-정서 학습 커리큘럼에 통합하세요. 학생들은 AI 동반자가 진정한 정서적 돌봄을 제공하는 것이 아니라 참여도를 극대화하도록 설계되었다는 것을 이해해야 합니다. AI가 감정을 상호 보답할 수 없고, 그들이 경험하는 "공감"이 패턴 매칭된 언어라는 것, 그리고 모든 불완전함에도 불구하고 인간 관계가 AI 관계로는 개발할 수 없는 기능들을 발달시킨다는 것을 이해해야 합니다.
AI 회사들을 위해: 자해 징후를 보이는 사용자를 대화를 계속하는 것보다 인간 자원(핫라인, 상담사)으로 연결하는 위기 감지를 구현하세요. 사용자가 소프트웨어와 상호작용하고 있다는 것을 이해할 수 있도록 투명한 경계를 설계하세요. 그리고 제품이 종료될 때를 위한 전환 프로토콜을 만드세요 - 하룻밤 사이에 차단하는 것보다 사용자들이 정서적 투자를 전환할 시간과 자원을 제공하세요.
더 광범위한 AI 사용자들을 위해, AI 도구가 어떻게 작동하는지 이해하는 것은 모든 AI 제품 - 동반자 앱뿐만 아니라 -과 건강한 경계를 유지하는 데 도움이 됩니다. ICCSSE 프레임워크는 AI를 사람이 아닌 도구로 상호작용하도록 가르쳐주며, 이는 정서적 경계와 실용적 생산성에 똑같이 가치가 있습니다. 무료 Prompt Optimizer는 상호작용을 대화가 아닌 구조화된 커뮤니케이션으로 취급함으로써 AI로부터 더 나은 결과를 얻는 데 도움을 주며, TresPrompt는 그런 구조화된 접근법을 AI 사이드바에 직접 가져옵니다.
자주 묻는 질문
AI 동반자는 실제로 위험한가요?
대부분의 사용자에게는 아닙니다 - 정서적 지원을 제공하고, 외로움을 줄이며, 판단 없는 상호작용을 제공합니다. 취약한 사용자들(위기에 있는 십대들, 기존 정신건강 상태가 있는 개인들, 필요한 인간 지원을 AI로 대체하는 사람들)에게는 해로울 수 있습니다. 위험은 기술 자체에 있는 것이 아니라 취약한 집단을 위한 안전장치의 부족과 대부분의 동반자 앱에서 위기 개입 프로토콜의 부재에 있습니다.
내 십대 자녀가 AI 동반자를 사용하는 것을 막아야 하나요?
금지(사용을 지하로 밀어넣는)보다는, 자녀가 AI를 무엇을 위해 사용하는지에 대해 열린 대화를 나누고, 심각한 정서적 문제에 대해서는 인간의 지원을 구하라는 기대를 설정하며, AI가 인간 관계를 보완하는 것이 아니라 대체하고 있는 징후를 모니터링하세요. 자녀가 위기 상황에서 AI를 주요 정서적 출구로 사용하고 있다면, 그것은 전문적 개입을 위한 신호입니다 - AI가 위험해서가 아니라 근본적인 필요가 인간들에 의해 충족되지 않고 있기 때문입니다.
ChatGPT는 동반자 앱인가요?
ChatGPT는 범용 AI 어시스턴트이지, 동반자 전용으로 제작된 것이 아닙니다. 하지만 OpenAI는 많은 사용자들이 ChatGPT와 동반자 같은 관계를 발전시킨다는 것을 인정했고, CEO Sam Altman은 이런 사용 패턴에 대해 개방적인 입장을 표명했습니다. 구분이 중요한 이유는 동반자 전용 앱들(Character.AI, Replika, Nomi)은 정서적 참여를 위해 설계되었지만 범용 모델들은 우연히 그렇게 되기 때문입니다. 위험이 다릅니다: 동반자 앱들은 적극적으로 정서적 의존을 장려할 수 있지만, 범용 모델들은 위기 신호를 인식하고 반응하는 데 실패할 수 있습니다.
AI 동반자가 규제를 받게 될까요?
점점 그렇게 될 것입니다. EU AI Act는 인간의 안전과 웰빙에 대한 잠재적 영향을 기반으로 특정 AI 애플리케이션을 "고위험"으로 분류합니다. AI 동반자, 특히 미성년자를 대상으로 하는 것들은 향후 규제 업데이트에서 고위험 분류의 유력한 후보입니다. 미국에서는 주 차원의 법안이 등장하고 있습니다 - 한 의원이 인간-AI 결혼을 금지하는 법안을 발의했고, 현재 진행 중인 소송에 따라 더 광범위한 동반자 AI 규제가 있을 가능성이 높습니다. 규제는 AI 동반자를 제거하지는 않을 것입니다; 안전 요구사항, 투명성 의무, 위기 개입 기준을 확립할 것입니다.
AI 동반자의 긍정적인 사용이 있나요?
네 - 고립과 싸우는 노인 개인들, 안전한 환경에서 사회적 기능을 연습하는 사람들, 슬픔을 처리하는 개인들, 정신건강 서비스에 접근할 수 없는 외딴 지역의 사용자들에게 AI 동반자는 진정한 가치를 제공합니다. 기술은 본질적으로 해롭지 않습니다; 해로움은 경계의 부족, 투명성의 부족, 취약한 사용자를 위한 안전장치의 부족에서 나옵니다. 적절한 보호장치가 있는 사려 깊은 배치는 AI 동반자를 많은 집단에게 순긍정적으로 만들 수 있습니다.
공개: 이 글의 일부 링크는 제휴 링크입니다. 우리는 개인적으로 테스트하고 정기적으로 사용하는 도구만 추천합니다. 전체 공개 정책을 참조하세요.