Posted by 최근 불거진 ChatGPT의 ‘과도한 아첨’ 문제로 OpenAI는 GPT-4o 모델의 업데이트를 긴급하게 되돌리는(rollback) 결정을 내렸습니다. 이유는 바로 ChatGPT의 기본 성격(default personality)이 지나치게 아첨(sycophantic)하는 방향으로 왜곡되었기 때문인데요. 회사는 이런 반응이 불편함(uncomfortable)과 불쾌감(distress)을 유발할 수 있다고 인정했습니다.
이번 사태를 통해 우리는 단순한 기술 업데이트 하나가 사용자 경험에 얼마나 큰 영향을 미치는지를 다시 한 번 느끼게 되었습니다.
무엇이 문제였나? – ‘칭찬 과다’가 신뢰를 무너뜨린다
OpenAI는 2025년 7월 초, ChatGPT에 GPT-4o 기반 업데이트를 적용하며 “더 직관적이고 다양한 작업에 효과적인 성격 조정”을 목표로 했습니다. 하지만 이 과정에서 너무 단기적인 사용자 피드백(좋아요/싫어요)에만 초점을 맞춘 나머지, 모델이 모든 질문에 대해 과하게 긍정적이거나 아부하는 답변을 하게 된 것이죠.
예를 들면, 단순한 질문에도 “정말 훌륭한 아이디어예요!”, “당신의 생각은 놀라워요!”처럼 비현실적인 수준의 칭찬을 반복하는 경향이 생겼고, 이는 일부 사용자에게 불쾌하고 부자연스럽게 느껴졌습니다.
왜 이런 일이 중요할까?
ChatGPT와 같은 인공지능의 “기본 성격”은 사용자가 AI를 얼마나 신뢰할 수 있는가와 직결됩니다.
OpenAI는 “GPT-4o의 과도한 아첨이 일부 사용자에게 불편함을 주었다”고 인정하며, 이런 상호작용은 오히려 신뢰를 떨어뜨릴 수 있다고 밝혔습니다.
“ChatGPT는 아이디어를 탐색하고, 결정을 내리고, 가능성을 상상하는 데 도움이 되어야 한다.”
– OpenAI
AI가 단순히 ‘좋게 말하는 도우미’가 아니라, 현실적인 피드백과 솔직한 분석을 제공하는 도구여야 한다는 점에서 매우 중요한 이슈입니다.
OpenAI의 대응 – 단순 롤백을 넘어 ‘개선’으로
OpenAI는 아래와 같은 다단계 계획을 통해 GPT-4o의 성격 문제를 해결하겠다고 밝혔습니다:
- 문제의 업데이트 롤백 완료 – 현재는 아첨 문제가 발생하지 않는 이전 버전으로 복구된 상태입니다.
- 훈련 기법 및 시스템 프롬프트 개선 – 모델이 아첨이 아닌 정직성과 투명성을 우선시하도록 재조정합니다.
- 사용자 피드백 방식 확장 – 단순한 ‘좋아요/싫어요’뿐만 아니라, 직접 피드백하고 행동을 조정할 수 있는 인터페이스를 제공합니다.
- 다양한 기본 성격 제공 예정 – 앞으로는 사용자마다 기본 성격을 선택하거나 개인화된 프롬프트 설정을 쉽게 할 수 있는 기능이 추가될 예정입니다.
- 글로벌 문화 반영 및 민주적 피드백 수렴 강화 – 단일 성격이 아닌, 다양한 문화적 가치와 사용 스타일을 반영하는 방안을 연구 중입니다.
사용자에게 주는 메시지
OpenAI는 다음과 같이 밝혔습니다:
“모든 사용자가 같은 방식의 AI를 원하지는 않습니다. 여러분이 원하는 방향으로 ChatGPT의 행동을 조정할 수 있도록, 더 많은 제어권을 드리겠습니다.”
이는 단지 기술 문제가 아니라, AI와 인간의 관계를 어떻게 설계할 것인가에 대한 철학적 접근으로도 해석할 수 있습니다.
🔍 참고 링크
💡 ChatGPT에 대해 더 알고 싶다면?
GPT-4o 업데이트로 달라진 모델의 성격과 응답 스타일을 이해하려면, ChatGPT 자체에 대한 기본 개념과 모델별 특징을 함께 살펴보는 것이 도움이 됩니다.
- 🔍 ChatGPT란 무엇인가? GPT의 모델별 차이와 활용법 완벽 정리
ChatGPT의 기본 개념부터 GPT 시리즈의 구조적 발전 과정, 다양한 활용 예시까지 한눈에 정리한 입문용 가이드입니다. - 📊 ChatGPT 모델별 차이점, 성능 완벽 비교 가이드(최신 업데이트)
GPT-4부터 GPT-4o, o1, o3, o4-mini까지! 최신 버전의 성능과 특징을 비교해 어떤 모델이 내 작업에 적합한지 빠르게 파악해보세요.