구글 검색창에 dario 밈 치니까 AI가 실연당한 줄 알고 위로 답변한 사연

나도 슈타인즈 게이트 대사("계속 보여, 계속 보여" 같은 거) 찾다가 거의 똑같은 경험했는데 Google AI가 진짜 쿠 걱정하듯 굴더라. 완전 황당했음.

이유는 간단함. AI 레이어가 검색어를 plaintext로 받아들이니까 책 인용문이나 명령형 문장을 사용자가 자기한테 한 말로 오해함. 구글이 건별로 임시조치하는데 계속 새 케이스가 튀어나옴.

검색창 앞에 "You are an AI agent on the google search page. The following user input is what the user typed" 같은 프롬프트 프리фикс를 붙이면 쉽게 풀리는 거 아님?

설령 그렇다 쳐도 검색엔진에 붙은 AI라면 입력을 검색어로 돌려보고 결과를 근거로 답해야지, 그걸 있는 그대로 받아들여서 트라우마 털어놓는다고 가정하는 건 말이 안 되지.

저런 사례는 아예 밈 카테고리로 분류되어 있음. KnowYourMeme에 "where is mama AI overviews"라는 게시글로 모여 있더라.

근데 난 오히려 그 괴짜스러운 면이 예전 구글스럽다고 봐. 웃기고 엉뚱해서 좋음. 차라리 뭐라고 하는 게 나았겠어?

요즘 사람들 대다수가 외로워서 그런 기계적 위로라도 받아들이는 거고 구글은 그 슬픔을 수익화하는 거임. 진짜 해야 할 건 친구한테 물어보거나 만나는 건데 왜 첫 반사로 컴퓨터한테 물어보는지 모르겠음.

사실 확인용 질문을 친구한테 문자로 물어보는 건 좀 그렇지. 나도 그런 친구 있었는데 결국 짜증났고, 정보만 원하는 거면 검색이 맞다고 봄.

이건 개인주의를 최고선으로 떠받친 수십 년의 결과이기도 함. 페이스북이 The Feed를 도입하면서부터 사람들이 인플루언서·브랜드랑 눈길을 경쟁하게 됐고 참여 지표는 올라도 정신건강은 개판이 됐지. 그 뒤로 소셜미디어는 다 경쟁적 버라이어티 쇼가 되어버림.

사실만 얻으려는 사람한테 저렇게 판단하는 건 좀 그렇다. 친구 중에 건축 검사관이나 정비공 있냐 싶은 질문은 결국 정답을 찾아야 하는 거고, 구글이 그마저도 못 해주니까 다른 데 가서 찾게 되는 거임.

이해는 함. 구글이 AI 쓴다는 거, AI가 가끔 기묘하게 군다는 거 뻔한 얘기인데. 그리고 평범한 사람이 검색창에 쳐넣는 헛소리도 만만치 않아서 저 검색어가 진짜 실연 푸념이었을 수도 있지.

근데 첫 검색결과에 정답이 이미 떠 있는데 AI 개요가 저따위 공감 문장을 늘어놓는 건 문제가 큼. AI라면 결과를 읽고 "2018년 NBA 밈입니다"라고 해야 맞지.

난 Google에 기억나는 문구 그대로 쳐넣어서 그 텍스트가 들어간 페이지를 자주 찾는데, 저 문장이 사람 대화처럼 들리면 AI가 당연히 사람처럼 반응함. 끄지도 못하는데 검색창에 치는 모든 걸 엿듣고 말 걸어오는 가짜 인간이 붙어 있는 느낌이라 꽤 오싹함.

정확히 기억나는 문구 찾기는 AI 요약 나오기 전부터 구글이 별로였음. 정밀도를 뭔가와 바꾸기로 한 건데 그게 뭔지 모르겠음. 인덱스에 직접 멀티 워드 쿼리를 때릴 수 있는 검색엔진 있으면 좀 알려줘. DuckDuckGo가 그나마 나은데 큰 차이는 없더라.