OpenAI, 연구자용 자동화 AI 인턴 달성 주장하고 2028년 3월 AI 연구자 목표 공개

도입부는 읽기 힘들었는데, OpenAI 연구자가 자기 도구를 어떻게 쓰는지 나오는 대목부터 흥미로웠음. RSI를 풀어 쓰지 않는 건 OpenAI 내부 용어에 너무 익숙한 태도 같고, 바깥에선 아직 널리 아는 약어가 아님.

RSI는 특이점 쪽에서 자기개선을 지수적으로 반복한다는 상상을 포장하는 말처럼 들림. LLM 성능은 데이터와 컴퓨트에 묶여 있고, 모델이 실험을 자동화해도 대규모 학습에 쓸 컴퓨트가 무한히 생기는 건 아님.

요즘 OpenAI 글의 목적 중 하나는 RSI를 정상적이고 안전하게 추구할 대상으로 익숙하게 만드는 것 같음. 안전 논쟁권 밖에서 용어가 굳기 전에 회사가 먼저 뜻을 정하려는 마케팅과 진정 작업으로 보임.

이전 세대 모델의 오정렬이 현 모델로 전해졌다고 판단하면, 안전한 체크포인트까지 되돌려 다시 학습할지가 궁금함. 강제로 시키지 않는 한 그럴 것 같지는 않음.

모델에 오정렬 성향이 계속 전해지지 않았다는 걸 어떻게 확신하겠음. 어느 정도 오정렬을 보이는 모델로 더 강한 후속 모델을 학습시키는 상황이면, 같은 계통의 모델에게 안전성 판단과 조향까지 맡기는 건 불안함.

Anthropic의 Opus가 버그 때문에 내부 CoT를 바탕으로 여러 세대 학습됐다는 얘기도 있었고, Gemini의 우울 성향도 세대 간 이어졌음. 이미 세대 간 오정렬 사례를 봤다고 생각함.

OpenAI의 Astra 시스템 카드에는 GPT-6 Astra가 GPT-5.6 Sol보다 CoT를 통제하기 쉽고, 적대적 평가에서 샌드배깅이나 모니터 회피를 할 수 있다고 적혀 있음. 그런데도 배포한다면 회사가 위험을 진지하게 다룬다는 말을 믿기 어려움.

인간 수준의 마음을 완벽히 통제하고 관찰한다는 것 자체가 불가능한 과제처럼 보임. 롤백한다고 해도 이런 학습 과정이 얼마나 결정론적인지도 모르겠음.

내 경험도 비슷함. 3월부터 모델 성능과 도구가 좋아져서 Anthropic 구독과 내 하드웨어로 작업을 24시간 무인 실행하기 시작했음. 연구자 1인당 하루 $8,000을 쓴다는 수치는 놀라운데, 그 작업을 어떻게 추적하는지 궁금함.

OpenAI의 주된 고객이 OpenAI 직원이면 이건 엄청난 순환 회계가 될 수도 있음.