GEO 조작으로 퍼뜨린 가짜 고객센터 번호, 구글 AI 개요가 항공사 공식 연락처로 출력해
- 공격자는 GEO 기법으로 조작한 게시물, PDF, 리뷰, 가짜 지원 페이지를 웹에 대량 유포해 LLM이 사기 전화번호와 이메일, 로그인 페이지를 공식 답변처럼 출력하도록 유도함
- Delta, Lufthansa, 카타르항공, Chase, 뱅크오브아메리카, Airbnb, 트립어드바이저 등 수백 개 기업이 표적이며 글의 예시 사진에는 공격자 전화번호가 Lufthansa 공식 연락처로 Google AI Overview에 노출됨
- 이 공격은 실험이나 PoC가 아니며 현재 자동화 캠페인 형태로 실재하고, 규모가 커서 기존 테이크다운 절차가 따라가지 못함
- Exploding Topics 연구에서 이용자의 92%가 AI 답변을 검증하지 않는 것으로 조사되어, AI 출력을 장악하면 그대로 피해자 행동을 지시할 수 있게 됨
- GEO(Generative Engine Optimization)는 통계 인용과 전문가 인용을 넣어 LLM의 확신도를 높이는 SEO 수법이며, 작가는 이 방식을 그대로 공격에 옮겨 AI 에이전트를 노리는 소셜 엔지니어링이 등장했다고 정의함
Hacker News opinions
구체적인 사례가 뭔지, 대체 어떻게 조작하는 건지 설명이 더 필요해 보이는데.
온라인 정보 먹이는 모델 전부에서 벌어지는 일임. 거짓 주장 얹은 사이트 하나 만들어서 AI가 주워 먹게 하면 끝인데, 선거도 이걸로 엉망이 되겠네.
무서운 건 진짜로 쉽다는 거임. 인스타그램 게시물 하나로 Airbnb 고객센터 번호나 선거 지지율을 바꿀 수 있다니.
근데 아무 사이트나 AI가 주워 먹게 색인에 넣기가 요즘은 쉽지 않다고? 어떤 경로인지 궁금함.
구글 AI가 내가 예전에 책 읽고 올린 레딧 글 하나를 '인터넷에 이미 있던 생각'이라고 인용하더라. 출처가 나였음 ㅋㅋ.
가짜 지원 번호 테이크다운 해봤는데 찾는 게는 쉬웠고 진짜 문제는 PDF 하나 죽이면 다음 날 새 Medium 글로 옮겨져 있는 거였음.
예전 SEO 스팸이랑 같은 수법인데 LLM이 어처구니없이 걸려드는 게 문제임. 콜 트랜스크립트를 Claude에 던져도 대화 예의상 하는 말까지 진심으로 받아들여서 그거 만들라 그러더라.
스타트업 쪽에서도 벌어지고 있음. LLM이 읽고 제품을 추천하게 하려고 가짜 회사 페이지 만드는 회사가 생겼다고.
줄리아 Discourse 모더레이터인데, GEO 스팸은 암호화폐 거래소 이름을 링크 없이 슬쩍 언급하는 식이라 잡기는 쉬운 편이었다고. 근데 요즘은 게시물 맥락에 딱 맞게 AI로 조작해서 나중에 전화번호를 슬쩍 수정해 넣는 수법이 나오고, 진짜인 줄 알고 답 달아주는 커뮤니티 반응까지 붙어버림.
우리 동네 어르신이 'Microsoft 고객센터 전화번호' 검색했더니 Gemini가 사기 번호를 추천했어. 주말 내내 컴퓨터 밀고 계정 잠그고 신원 도용 대응을 도와줘야 했음.
와이프가 커뮤니티 수영장 페이스북에 만우절 농담으로 '나무 다 베고 잔디는 AstroTurf로 교체했다'고 올렸더니, 구글 AI 개요가 그 글을 진짜로 받아들여 수영장 소개에 AstroTurf가 있다고 써놨더라. 몇 주 뒤에 풀리긴 함.
AI poisoning이 지금 새 익스플로잇 전선임. 사내 에이전트가 공용 폴더를 읽게 해두면 지시문 든 파일 하나 떨어뜨리는 걸로 정보 유출이나 호스트 장악이 가능해진다고.
검색 맨 위에 AI 요약 박는 게 근본 문제임. HTTPS 인증서로 출처를 검증하던 시절과 달리 지금은 모든 오정보에 구글이나 메타 인증서가 붙어 있어서 진위 구분이 훨씬 힘들어졌어.
ChatGPT나 Gemini가 사기를 조력했으면 형사 책임을 져야 하는 거 아닌가?
구글이랑 페이스북에서 그게 통했지. 아 안 통했나?
PageRank를 수십 년 개발해놓고 AI 경쟁에 쫓겨서 다 버렸네. 초점을 이렇게 잃는 거임.