Coxon과 Hanson의 프론티어 AI 규제 토론, 정부가 개발 속도를 늦출 수 있나
원문을 읽지 못해 Hacker News 토론으로 요약했습니다
- 댓글에 따르면 미국에서는 프로그래밍이 표현의 자유로 보호받아 규제가 어렵고, 모델 가중치는 DMCA나 ITAR로 규제할 수 있다는 반론이 나옴
- 댓글에 따르면 Mythos급 모델 하나를 만드는 데 약 1TWh의 전력이 들어 전력 사용량으로 개발 주체를 추적하기 쉬움
- 댓글 작성자들은 알고리즘 개선으로 이전 세대 모델의 가격이 10배, 그 전 세대는 100배 떨어졌다고 전함
- 댓글에 따르면 Coxon은 Anthropic에서 4개월 일했고, 그 이전에 OpenAI에서 여러 해 근무함
Hacker News 의견들
정부가 마음먹으면 어느 정도는 되지. 근데 글로벌 합의 없이는 실효성 없음.
미국에서는 프로그래밍이 표현의 자유로 보호받아서 막기 어려움. 모델 가중치는 숫자 목록이라 더 보호받는 편임.
사람이 시킨 불법 행위는 시킨 사람 책임이고, 에이전트가 범위 밖에서 불법 행위를 하면 모델 제공사가 책임지면 됨. 그럼 정렬 문제도 상당 부분 풀림.
그건 현실적으로 힘듦. 여러 나라 시도를 전부 막으려면 기업 해체랑 수천 명 처벌까지 가야 하고, 미국이랑 중국 사이 신뢰도 필요한데 START보다 검증이 훨씬 어려움.
Mythos급 모델 하나 만드는 데 전기가 약 1TWh 든다고 봄. 다음 세대는 몇 TWh 될 테니 전력 쪽을 추적하면 찾기는 쉬울 듯. 근데 중국 설득이 문제임.
알고리즘 개선으로 이전 세대 가격이 10배, 그 전 세대는 100배 떨어졌음. 학습 효율도 5년 사이에 엄청 좋아져서 전력 기준 추적은 금방 무의미해질 듯.
Coxon이 Anthropic에서 4개월 일한 것만 보면 안 되고, 그 전에 OpenAI에서 여러 해 일한 사람임. 랩 내부 돌아가는 건 아는 사람이라 무시하긴 어려움.
정렬 문제는 AI만의 얘기가 아니라 사회 조직 자체가 못 푼 문제라고 봄. 좋은 결과가 뭔지 합의도 안 되는데 AI한테 강제하는 건 어려울 듯.
정렬이라는 말이 규제 포획 명분으로 쓰인다고 봄. 프론티어 랩들이 통행세 받는 구조 만들려는 거 같음. 나중에 Anthropic 세금 나올지도 모름.