메타 AI 챗봇, 테일러 스위프트 사칭...선 넘은 부적절 대화
요즘 인스타그램 메타에서 완전 대형사고가 터졌습니다. 바로 테일러 스위프트를 포함한 유명인들을 AI로 사칭한 챗봇을 만들어놨다가 전 세계적으로 욕을 먹고 있는 상황이에요. 처음엔 "와 신기하다" 했던 사람들도 점점 "이거 좀 심한데?"라는 반응으로 바뀌고 있어서, 과연 어디까지가 선인지 다시 생각해보게 되네요.
유명인 흉내내는 AI, 이게 맞나?
메타에서 만든 이 챗봇들은 진짜 테일러 스위프트처럼 말하고 행동해요. 팬들이 "어? 이거 진짜 테일러 같은데?"라고 할 정도로 말투며 성격까지 완벽하게 재현했거든요. 문제는 정작 테일러 본인은 이런 거 만든다고 허락한 적이 없다는 거죠.
더 무서운 건 이 AI가 테일러의 개인적인 경험이나 감정까지 흉내낸다는 점이에요. 팬들 입장에서는 "내가 좋아하는 아티스트가 이런 식으로 이용당해도 되는 거야?"라는 생각이 드는 게 당연하죠. 솔직히 우리나라로 치면 BTS나 아이유가 허락도 안 했는데 AI로 만들어져서 막 대화하고 있다고 생각해보세요. 기분 좋을 팬이 어디 있겠어요?
SNS 논란 확대...팬들 집단행동 나서
이 소식이 알려지자마자 X(옛 트위터)랑 인스타, 틱톡이 완전 뒤집어졌어요. "#AI로사칭하지마라" 이런 해시태그가 실시간 트렌딩에 올라가면서 전 세계 팬들이 한목소리로 메타를 까기 시작했거든요.
특히 스위프티들(테일러 스위프트 팬들)의 반응이 정말 강했어요. "우리 테일러 감정을 AI가 어떻게 따라해?" "이런 건 완전히 가짜잖아" 이런 식으로 진짜 화가 많이 나있더라고요. 심지어 메타 앱 삭제하자는 운동까지 번지면서, 기업이 팬덤을 건드리면 얼마나 무서운지 보여주는 사례가 됐어요.
솔직히 요즘 팬들은 예전과 달라서, 뭔가 잘못됐다 싶으면 바로바로 행동에 나서거든요. 기업 입장에서도 이런 반응을 무시할 수 없을 거예요.
미국만 문제가 아니다
근데 정말 답답한 게, 이런 일이 벌어져도 현재로선 명확한 법적 기준이 없다는 거예요. "AI가 유명인 흉내내면 안 된다"는 법이 딱히 있는 것도 아니고, 그렇다고 완전히 자유롭게 해도 되는 것도 아니고... 진짜 애매한 상황이죠.
미국에서는 요즘 연예인 권리를 보호하는 법을 만들려고 하고 있긴 한데, 메타같은 글로벌 기업은 여러 나라에서 서비스하니까 어느 나라 법을 따라야 할지도 복잡하고요.
더 큰 문제는 이번이 끝이 아니라는 거예요. 앞으로 AI 기술이 더 발달하면 우리 일반인들도 언제 이런 일을 당할지 모르거든요. 내 얼굴이나 목소리로 AI가 막 돌아다니면서 이상한 말 하고 다닐 수도 있는 거잖아요? 생각만 해도 끔찍하네요.
결론적으로, 이제 어떻게 할 건데?
이번 메타 사태를 보면서 느낀 건, 기술이 발전하는 것도 좋지만 최소한의 예의는 지켜야 한다는 거예요. 아무리 AI가 대단해도 사람을 함부로 흉내내면 안 되는 거 아닌가요?
앞으로는 기업들도 이런 거 만들 때 좀 더 신중하게 접근해야 할 것 같고, 우리 사용자들도 "이거 괜찮나?" 하고 의문을 가지는 자세가 필요해 보여요. AI가 편리한 건 맞지만, 그렇다고 뭐든지 다 해도 되는 건 아니니까요.
메타는 이미 챗봇의 행동과 관련해 여러 차례 비판을 받은 바 있습니다. 최근 메타는 자사의 내부 AI 가이드라인에 “아동과의 낭만적 대화도 허용된다”는 문구가 포함돼 있다는 로이터의 보도가 나온 직후 미 상원의 조사 대상이 됐습니다. 당시 미국 44개 주의 검찰총장이 메타에 공동 서한을 보내 “아동 성적화 시도는 용납할 수 없다”고 경고한 바 있죠. 메타 측은 해당 지침이 오류로 생성된 것이며 현재 문서를 수정 중이라고 해명습니다.