미국 토마호크에 맞은 이란 초등학교에서 아동 123명 사망, 펜타곤 조사는 AI 과잉 의존을 원인으로 지목

방아쇠 당긴 사람이 책임지는 게 맞지.

방아쇠보다 승인한 사람이 맞는 것 같은데. 토마호크 쏜 병사는 그 자리에서 표적을 판단할 처지가 아니었음.

토마호크 같은 전략 무기는 조작자가 표적을 아예 안 봄. 미리 짜인 표적 데이터 패키지를 기계적으로 넣고 발사만 할 뿐임.

발사병 탓으로 끝내면 상부에 면죄부 주는 거임. 상부는 평생 방아쇠를 안 당기니까.

그렇다고 전부 개인 책임으로 돌릴 수는 없음. 표적 결정은 집단적이고 분산된 책임인데, 화요일마다 시장이 서는 광장 옆 건물 같은 맥락은 발사병이 알 수 없음. 민간인보호우수센터가 이런 걸 잡던 조직인데 현 행정부가 대체 조직 없이 폐쇄함.

근본 원인 분석은 중요하지만 표적 결정을 AI에 넘긴 사람의 책임을 지우면 안 됨. AI는 재판을 못 받으니 그 행위마다 사람이 책임져야지.

헤그세스가 치명성에 도움 안 된다며 민간인 피해 완화 인력을 잘랐고, 200명이 20명 미만으로 줄었음. 중부사령부 대응팀도 10명에서 1명. 목표 숫자 채우다 낸 과실치사라고 봄.

헤드라인도 기여했다고만 했지 원인이라고는 안 했음.

AI 빼도 예전부터 이런 오패는 있었음. AI가 악화시킨 건지 그냥 수단만 바뀐 건지 잘 모르겠음.

AI가 뭐라고 알려줬든 학교인 줄 알면서 때린 거잖아. 이건 미친 짓임.

애들 거기 있었다는 걸 어떻게 그렇게 확신하는 거냐?

비슷한 사건 하나 더 있음. AI가 핵물질 실은 배라고 잘못 표시해서 중국 배를 나포할 뻔했음.

그게 허밍페이스 사건보다 훨씬 큰 아차사건임. 환각이 3차 대전의 도화선이 될 뻔했음.

카프가 큰 건수 올렸네. 이제 탓은 오픈AI나 앤스로픽 돌리겠지. 자기 도구가 환각 킬체인의 방아쇠였는데.

팔란티어도 프랑스처럼 내보내야 함.

AI가 무고한 사람을 죽인 게 아님. 미 국방부와 결정권자가 죽인 거임.

배상은 누가 하나? 인간이 AI 결정에 책임진다고 해놓고서는.

표적 DB에는 이미 군사 목표가 아니라는 정보가 아예 안 들어갔고, 검증팀은 90% 잘려서 호출조차 안 됨. AI는 희생양이고 이건 순수한 인간의 무능과 악의임.

2019년에 한 분석가가 용도 변경을 파악하고 메모를 남겼는데, 그 시스템이 주 군사정보 DB와 연결이 안 돼서 표적 결정에 안 들어갔더라.