오카도 고객센터 AI 답변에 1점 설문 항의했더니 사람이 쓴 듯한 답장, 해커뉴스는 그마저 AI라고 의심
- 블로거 Terence Eden이 구글 캘린더 초대가 깨지는 버그를 영국 온라인 슈퍼마켓 오카도(Ocado)에 제보했더니 'Lulu' 명의 답장이 왔고, 그는 아첨하는 동의 문구와 em 대시 사용을 챗봇의 특징으로 꼽음.
- 만족도 설문 모든 항목에 1점을 주고 AI 응대의 무례함을 항의하자 며칠 뒤 두 번째 답장이 왔고, Eden은 문법이 완벽하지 않고 자기 메시지 내용에 실제로 반응한 점을 들어 사람이 쓴 글에 가깝다고 봄.
- 문제 제기 계기는 EMFCamp에서 만난 Kate Devlin 교수가 소개한 AI Resist List였고, AI의 형편없는 사용을 공개적으로 비판하는 게 유용한 대응이라고 말함.
- AI로 문의를 분류하거나 긴 메시지를 요약하는 건 비즈니스적으로 말이 되지만, 사람에게 AI로 답장하는 건 조직이 고객의 시간을 자기 시간보다 낮게 평가하는 무례라고 주장.
- 해커뉴스 댓글에서는 두 번째 답장도 AI라는 의심이 다수였고, Pangram 4.1이 100% AI 생성으로 판정했다는 언급과 함께 1점 설문에 대한 보복성 답장일 뿐이라는 지적이 나옴.
Hacker News opinions
불만 있으면 고객센터에 연락 안 하고 그냥 그 회사 안 씀. 근데 칭찬할 일이 있어서 M&S에 연락했다가 AI 답변 받고 기분 나빠서 다시는 안 하기로 했음.
제품이 애초에 고객센터가 필요 없게 설계돼야 함. 매뉴얼이나 FAQ만 잘 돼 있어도 대부분 문제는 해결됨.
그렇게 하다 보면 쓸 수 있는 회사가 없어지지 않냐?
내 휴대폰 요금이 이중 청구돼서 전화해서 환불받아야 했음. 그럼 이중 청구 그대로 받아들이고 위약금 물고 해지하라는 거냐?
AI를 좋아하는 편인데도 고객센터 자동 답변이나 ChatGPT로 만든 행사 포스터 같은 끊임없는 AI 쓰레기에는 진짜 짜증남.
두 번째 답장도 AI 같던데.
두 번째 답장을 두 번 읽었는데 나는 AI 같지 않았음. AI 글은 대체로 corporate speak에 가까운데 이건 정확히 그건 아님.
Pangram 4.1에 돌려보니 100% AI 생성으로 나왔음.
이런 불평이 결국 사람을 더 잘 흉내 내는 AI를 만든다. 문법 살짝 틀리고 횡설수설하는 문장까지 생성하게 되면 인간이 루프에서 빠지고, 사람이 썼는지 구분할 신호 자체가 사라짐. 두 번째 답장이 사람이 쓴 게 아니라는 걸 어떻게 확신하냐?
두 번째 답장은 과하게 코칭받은 PR 말투 같음. 자동화할 거면 왜 며칠씩 기다렸는지 모르겠고, 오카도는 배달기사 쿼터도 낮은 회사라 세컨드 레벨 응대를 자동화했을 것 같지 않음.
첫 번째 AI가 정말 지원팀에 이슈를 전달했는지부터 의심스러움. 에스컬레이션했다고 해놓고 한 시간 넘게 기다려도 사람이 안 오는 경우가 많음.
LLM 이전에는 '누가 살펴볼 것'이라는 기계 응답만 오고 그 뒤엔 아무 답도 없었음. 지금은 몇 센트 써서 똑같이 형편없는 답장을 받는 거라 훨씬 정중한 셈임.
사람이 시간을 쓴 척 안 하는 게 오히려 더 정중하다고 봄.
인터넷에서는 이제 아무 글에나 AI라고 몰아감. 내가 보기엔 별로 안 그런 글도 많은데 거의 마녀사냥임. 아무도 구분 못 하면 읽을 이유가 있냐.
메시지가 AI냐는 안 중요하고 회사가 문제를 제때 고치느냐가 중요함. 고치면 답장이 무뚝뚝하든 AI 같든 상관없음.
오카도에 비슷한 기술 문제를 제보한 적 있는데 나는 좋은 후속 답장은 못 받았음.
해커뉴스가 테크 게시판인데 AI 얘기가 많이 나오는 게 뭐가 이상하냐. 100년 전에 전기 잡지가 라디오 얘기만 한다고 불평한 거랑 같음.