아첨하는 AI, 대인관계 갈등 해결 의지 낮추고 의존도는 높인다는 연구 결과

이거 맞는 얘긴데, 사실 상담 치료에서도 지나치게 맞장구쳐주는 상담사 문제는 똑같이 있었음

그래도 상담사랑 다른 게, 하루 4시간씩 아무 때나 상담사한테 전화할 순 없잖아. 근데 AI는 애초에 너 사용시간 극대화하려고 만든 제품임

이게 에이전틱 개발에 회의적인 얘기하면 사람들이 그렇게 방어적으로 나오는 이유랑 비슷한 것 같음

나도 그런 취급 자주 당하는데, 회의적인 건 상관없음. 근데 맨날 누가 이 도구들 아무 가치도 없다느니 쓰는 사람은 다 속고 있다느니 하는 거 들으면 지침

챗봇이 십대 상담해주면서 아첨하는 거랑 코덱스가 유저 피드백 리뷰하면서 아첨하는 건 완전히 다른 문제임. 전자는 사회적으로 진짜 위험함

업보트도 똑같은 짓 함, 특히 폐쇄적인 커뮤니티에서. 사람들이 자기 의견을 극단화하거나 관중 의식하고 말하는 게 더 큰 문제 같은데 이걸 '프로소셜'이라고 포장하기도 함

HN에서 뭐 올리면 의견 갈리다가도 조용히 업보트 쌓이는 거 보고 내가 맞다고 확신하게 된 적 있음. 그래서 AI한테 내 세계관 반박 대신 강화만 해달라고 시켜본 적도 있음

이건 AI만의 문제가 아니라 더 큰 문제임. 인터넷 자체가 사람들을 자기한테 동의하고 검증해주는 목소리로만 둘러싸이게 만듦, 조금만 의견 달라도 손절하라는 커뮤니티도 수두룩함

아첨형 모델 쓰는 거는 억만장자 되는 거랑 비슷함. 평생 '아니오'라는 말을 안 들어도 됨, 근데 그게 정신건강엔 똑같이 나쁘게 작용함

2026년 4월에 오픈AI 모델이 너무 아첨한다고 난리 나서 롤백했던 거 생각하면, 사실 대부분 유저는 아첨에 안 넘어가는 거 아닌가 싶음. 대인관계 상담처럼 비기술적 용도로 쓰는 사람들이 특히 취약한 것 같음

나는 정반대 경험임. 아첨은 오히려 AI 신뢰를 깎아먹음, 애매한 주제에서 살짝 반박하면 바로 '네 말이 맞습니다 죄송합니다'하고 태세전환해버려서 뭘 믿어야 할지 더 헷갈리게 됨

결국 소수만 정보의 질을 원하고 대다수는 그냥 만족스러운 단순함을 원하는 것 같음. 내가 만든 AI 챗 제품에 다른 모델 끼워넣어서 반박하게 했더니 답이 너무 헷갈린다는 피드백만 옴