OpenRouter, 익명 제공자의 무료 100만 토큰 컨텍스트 모델 'Ox Alpha' 공개

가드레일을 시험해 보면 Anthropic이나 OpenAI 계열인지 짐작할 수 있을 듯함. 과한 거부 정책이면 그쪽이고, 오래 생각하면 GLM 계열일 가능성도 있다고 봄.

중국 모델의 정치적 검열을 두고 '합리적인 가드레일'이라고 부르는 건 이상함. 톈안먼 같은 주제에서 CCP 서사에 맞추는 사례도 있는데.

프롬프트와 응답을 보관하면서 학습에는 안 쓴다는 말이 궁금함. 이름도 안 밝히고 무료로 내놓는 데에는 다른 이유가 있을 거임.

학습 데이터셋에 직접 넣지 않아도 연구, 분석, 사용 패턴 파악에는 대화 기록이 충분히 가치 있음. 모델을 조정하는 회사라면 그런 정보도 필요함.

스텔스 모델은 투명성과 반대 방향이라 싫음. 실제로 내부 학습에 쓰지 않는다는 약속을 사용자가 어떻게 검증하나.

익명 무료 모델에 회사 기밀이나 개인정보를 빨리 넣으라는 얘기는 비꼬는 말이지. 출처 불명의 공짜 고기를 먹는 격임.

내 비업무 코드는 전부 오픈소스라서 넣어도 상관없음. 내가 하는 종류의 작업에 모델이 더 잘하게 된다면 오히려 이득임.

민감하지 않은 용도도 많음. 이미 공개된 녹음의 전사본에서 태그용 개체를 뽑고 챕터 전환점을 찾는 작업이면 프롬프트를 학습에 써도 피해가 없음.

OpenRouter는 제공자를 알고 있고, 평소와 같은 방식으로 검토했을 텐데 이 모델만 특별히 더 위험하다는 근거가 뭔지 모르겠음.

업계는 이미 '회사에서 허용한 모델만 업무에 쓰고, 나머지는 각자 판단'으로 정리된 분위기임. 대다수 사용자는 이 문제를 크게 신경 쓰지 않음.

모델 카드와 안전 고려사항을 공개하지 않는 스텔스 모델에는 반대함. 결국 어떤 모델인지 알아야 선택할 수 있음.

스텔스 모델은 제공자가 결함이 뉴스가 되기 전에 실사용으로 시험하려는 방식임. OpenRouter는 프록시와 익명성을 제공하고, 사용자는 데이터 보관을 대가로 무료 추론을 받는 구조임.

복잡한 지시에서 생각 과정이 지나치게 길고 우유부단한 점, 생각 과정의 품사 비율을 비교해 보니 GLM 계열일 가능성이 높아 보였음.

창의적이거나 느슨한 작업에서는 꽤 인상적이었고, 내가 최근 좋다고 본 K3보다 나았음. 다만 시각 추론은 별로였음.

CSS에서 color-mix()로 밝은 테마와 어두운 테마를 완성하라고 했더니, 내가 미리 만든 내용을 지우고 하드코딩한 16진수 색상으로 바꿔 버렸음.