AI 모델 12개가 같은 '논쟁적' 답: 사람은 진실보다 소속을 따른다

이게 뭘 말하려는 건지 모르겠음. LLM한테 의견 물어본 글이 무슨 결론을 줌?

그 말이 맞는 게 오늘 나온 다른 글 보면 사람들이 LLM 에이전트한테 은행 비밀번호까지 물려놓는 중이더라. 생각 없는 답 믿고 쓰면 위험함.

그냥 소프트웨어 두 개가 같은 답 낸 게 이상하다는 얘기 같은데. 학습 데이터에 그런 보편 정답이 있는 것도 아닌데 독립적으로 같은 결론 나온 거 자체가 흥미로움.

사람 의견이 반영된 거울일 수도 있음. 근데 RLHF를 얹어놨으니 원래 데이터 탓인지는 판단하기 어려움. 사전학습만 된 raw 모델이랑 비교해보면 재밌겠음.

'controversial'하게 달라고 하면 결국 사회 규범 밖으로 나가라는 뜻이라, 나오는 게 다 평범한 사회 비판 톤인 게 당연함. 사람도 사회 규범에 영향 받는 건 똑같고.

믿음은 집단 소속을 보여주는 수단이기도 해서 사실로 설득이 잘 안 됨. 근데 backfire 효과는 2020년 기준으로 넓게 일어나지 않는다는 연구가 많아서 좀 더 따져봐야 함.

사회성이 인간의 강점이자 약점이라는 얘기는 진화인류학자들 사이에서도 나옴. 집단 생존엔 유리했는데 그 대가가 집단 믿음에 휩쓸리는 거라고 봄.

지갑 돌려준 사람 얘기도 맞긴 한데, 나쁜 놈 한 명이 나머지 전체를 지키게 만든다는 게 핵심임. 뇌도 좋은 신호보다 나쁜 신호에 훨씬 크게 반응함.

도덕 기준이 50년마다 바뀐다는 말은 좀 과장인 듯. 황금률이나 함무라비 법전 같은 게 수천 년 넘게 유지되고 있음.

사회 밖에 윤리 기준이 있는 게 아니라는 말엔 동의함. 근데 허용 범위는 사회의 물질 조건에 따라 바뀌는 거지, 유행 따라 바뀌는 건 아님.

LLM이 자기 내부 상태를 본다는 것도 웃김. 자기에 대한 지식은 결국 사람이 LLM에 대해 쓴 글에서 온 거잖음.