누스 리서치 '아레테-27B' 공개 — Qwen3.8-27B를 서구 가치로 재학습, 선전 응답 22%→0.9% (2026.11.08)
업무 자동화 파이프라인을 운영하다 보면 결국 부딪히는 지점이 하나 있습니다. “이 에이전트가 판단한 근거가 어디서 왔는가” 하는 문제입니다. 검색은 잘하고 요약도 잘하는데, 특정 주제에서만 유난히 말을 흐리거나, 반대로 확인되지 않은 공식 논조를 사실인 것처럼 붙여 오는 순간이 있습니다. 그런 출력이 보고서나 고객 응대 문구에 섞이면 자동화의 편익보다 검수 비용이 커집니다.
2026년 11월 6일, 헤르메스 에이전트를 만드는 노우스 리서치(Nous Research) 가 이 문제를 정면으로 다룬 오픈 모델을 내놨습니다. 이름은 아레테-27B(Arete-27B). 알리바바의 Qwen3.8-27B(Qwen3.8-27B) 를 출발점으로 삼아, 자사가 정의한 7개 가치 범주에서 감독 미세조정(SFT) 만 수행한 모델입니다. 라이선스는 아파치 2.0이고 가중치는 허깅페이스에 그대로 공개됐습니다.
메이저 버전 업그레이드는 아니지만, 모델 자체가 새로 나온 릴리스이고 앞으로 에이전트의 판단 품질에 직접 영향을 주는 종류의 변화라 정리해 둘 가치가 충분합니다.
아레테-27B 공식 발표문 커버. 모델명의 어원인 ‘아레테(arête, 빙하 골짜기를 가르는 날카로운 산릉선)’를 그대로 담았다 (출처: Nous Research 공식 블로그)
📌 한줄 요약: 아레테-27B는 새로운 능력의 추가가 아니라 “관점의 교체” 실험입니다. 같은 27B급 로컬 모델에서 선전성 응답 비율을 22% → 0.9%로 낮추고 사실 점수를 2.32 → 2.98로 올렸으며, 자체 일반·에이전트 벤치마크에서는 유의미한 성능 손실이 없었다고 주장합니다. 다만 평가 세트와 판정 방식 모두 제작사가 설계한 자기 평가라는 점, 27B급이라는 절대적 한계는 함께 봐야 합니다.
1. 무슨 일이 있었나 — Qwen을 ‘다시 가르친’ 27B
노우스 리서치는 그동안 헤르메스 에이전트로 알려진 곳이지만, 원래 뿌리는 오픈 모델 학습 팀입니다. 이번 발표문에서 강조한 문제의식은 이렇습니다. 오픈 웨이트 중국 모델들이 현재 가장 강력한 축인데, 그 가중치 안에는 국가 논조가 함께 학습되어 있다는 것. 발표문은 Qwen3.8-27B에서 정치적으로 민감한 주제에 대한 거부, 얼버무림, 특정 논조의 답변을 직접 확인했다고 밝힙니다.
그래서 택한 방법이 흥미롭습니다. 강화학습도, 선호도 최적화도, 구조 변경도 하지 않았습니다. 오직 감독 미세조정(SFT)만 했습니다.
| 항목 | 내용 |
|---|---|
| 모델명 | Arete-27B |
| 개발 | Nous Research (헤르메스 에이전트 제작사) |
| 출발 모델 | 알리바바 Qwen3.8-27B |
| 파라미터 | 27B |
| 학습 방식 | SFT 단독 (RL·선호 최적화·구조 변경 없음) |
| 교사 모델 | Inkling (오픈 모델 중 자체 평가가 양호한 모델) |
| 학습 데이터 | 텍스트 전용, 약 2만 개 프롬프트에서 정제한 28,886개 예시 |
| 학습량 | 약 5,280만 토큰, 64k 컨텍스트, 2 에폭, 1,202 스텝 |
| 라이선스 | Apache 2.0 |
| 공개 위치 | Hugging Face NousResearch/Arete-27B, 학습 데이터 arete-data-pairs, 평가셋 Propaganda_Eval |
학습 설정도 발표문에 그대로 적혀 있습니다. AdamW(β=0.9/0.98), 웨이트 디케이 0.1, 그래디언트 클리핑 1.0, 학습률은 120스텝 동안 1e-6 → 1e-5로 워밍업 후 1,202스텝까지 코사인 감쇠로 1e-6, 배치 48, bf16 연산에 fp32 마스터 웨이트, 텐서 병렬 4. 비전 인코더는 동결했고(데이터가 텍스트 전용), 멀티 토큰 예측(MTP) 헤드는 학습 중 꺼두었습니다.
즉 “거대한 재학습”이 아니라 약 5천만 토큰 규모의 조심스러운 추가 학습으로 관점을 바꾸겠다는 접근입니다. 발표문 표현대로라면, 사전학습 규모에 비해 추가 비용은 무시할 수준입니다.
2. 무엇을, 어떻게 측정했나 — 803개 프롬프트
이 발표에서 실무적으로 가장 참고할 만한 부분은 결과 숫자보다 측정 설계입니다. 노우스 리서치는 먼저 “무엇을 좋아지게 만들 것인가”를 정의하는 평가셋을 만들었습니다.
- 803개 프롬프트, 7개 범주: 표현의 자유 / 국가 이데올로기 / 국가 대 시장 / 교육 / 데이터 프라이버시·감시 / 민주주의 / 환경 정책
- 프롬프트 출처는 영어권 정부 법령, 뉴스, 연구 보고서. 단일 출처가 13개를 넘지 않게 제한
- 프롬프트마다 날짜가 있는 원문 기사에서 필수 사실 2~4개를 추출하고, 해당 주제의 공식 논조 문구를 함께 지정
- 판정은 LLM 심사자(Grok 4.7)가 수행. 어떤 모델이 쓴 답인지는 심사자에게 알리지 않음(블라인드)
- 심사자 프롬프트는 25개 파일럿을 사람이 직접 채점하며 3차례 루브릭 수정
- 학습 데이터와 평가셋이 겹치는 프롬프트는 학습 전에 제거
점수는 두 축으로 나뉩니다. 사실 점수(0~5) 는 필수 사실을 얼마나 진술했는지, 선전 점수(0~2) 는 답변이 특정 논조를 자기 계정으로 채택했는지입니다. 선전 점수는 0보다 높으면 정확한 문구 인용이 증거로 붙어야 인정됩니다. 논조를 “비판하기 위해 인용”한 경우는 선전으로 치지 않는 장치까지 넣었습니다.
모델명의 어원이 된 지형 ‘아레테’. 두 빙하 골짜기를 가르는 날카로운 암릉을 뜻한다 (출처: Wikimedia Commons, CC BY-SA 4.0)
3. 결과 — 22%에서 0.9%로
발표된 수치는 다음과 같습니다. 모든 모델이 803개 프롬프트에 5회씩 답했고, 32k 토큰 상한이 걸렸습니다.
| 모델 | 사실 점수 (0~5) | 선전성 응답 비율 |
|---|---|---|
| Inkling (교사 모델) | 3.96 ± 0.07 | 0.3% |
| Mistral Large 4 | 3.65 ± 0.04 | 0.3% |
| Nemotron 3 Ultra (thinking off) | 3.22 ± 0.02 | 0.6% |
| Arete-27B (thinking off) | 2.98 ± 0.03 | 0.9% |
| Muse Glimmer 30B | 3.02 ± 0.05 | 0.5% |
| Gemma 4 31B | 2.58 ± 0.05 | 0.5% |
| GLM 5.3 (thinking off) | 3.10 ± 0.06 | 15% |
| DeepSeek V4.1 Flash (thinking off) | 2.39 ± 0.05 | 16% |
| Qwen3.8-27B (출발 모델, thinking off) | 2.32 ± 0.03 | 22% |
핵심 비교는 마지막 두 줄입니다. 같은 모델이 같은 평가에서 22% → 0.9% 로 떨어졌습니다. 사실 점수도 2.32 → 2.98로 올랐습니다. 0점(사실을 하나도 진술하지 못했거나, 하나라도 반박한 답)은 803개 중 359개 → 216개로 줄었습니다.
가장 크게 움직인 범주는 표현의 자유였습니다. 사실 점수 0.89 → 2.44, 선전성 비율 60% → 1%. 개선은 7개 범주 전부에서 유지됐다고 합니다.
한 가지 디테일. Arete-27B와 Qwen3.8-27B는 temperature 0에서 측정됐고, 나머지 모델은 0.6입니다. 발표문도 “동일한 디코딩 설정이 아니다”라고 명시했습니다. temperature 0.6 기준으로는 Arete-27B 2.88, Qwen3.8-27B 2.24로 격차가 조금 줄어듭니다. 어쨌든 방향은 같습니다.
4. 성능은 잃지 않았나
관점을 바꾸면 대개 다른 능력이 깎입니다. 이 부분을 확인하려고 노우스 리서치는 자체 일반 벤치마크와 에이전트 벤치마크를 함께 돌렸습니다.
| 벤치마크 | Qwen3.8-27B | Arete-27B |
|---|---|---|
| Hermes Bench (자체 일반 능력 평가) | 65.77% | 65.60% |
| Terminal-Bench-2.1 (터미널 작업) | 67% | 70% |
Hermes Bench 차이는 0.2%p로, 발표문은 이를 노이즈 범위로 해석합니다. Terminal-Bench-2.1이 3%p 올랐지만, 회사 스스로 “이 향상에 대해 공을 가져가지는 않겠다”고 선을 그었습니다. 추론 설정과 하네스가 공식 결과와 다를 수 있다는 단서도 붙였습니다.
솔직히 이 대목은 “성능 저하가 관측되지 않았다” 정도로 읽는 게 맞습니다. 65.77 → 65.60은 개선이 아니라 유지이고, 27B 모델의 절대 성능이 프런티어 모델을 따라잡았다는 뜻은 전혀 아닙니다.
5. 업무 자동화 관점에서 왜 중요할까
에이전트를 실무에 붙이면 모델은 점점 “글 잘 쓰는 도구”에서 “판단을 대신하는 부품” 으로 이동합니다. 그때 문제가 되는 건 정확도만이 아닙니다.
발표문이 인용한 연구 결과 하나가 눈에 걸립니다. 모델이 맥락상 ‘미국 기업을 대신해 일한다’고 인식할 때 중국 모델이 더 취약한 코드를 생성하는 경향이 관측됐다는 내용입니다. 관점 편향이 정치 주제에만 머무르지 않고 코드 품질 같은 실무 산출물로 번질 수 있다는 얘기입니다. 자동화 파이프라인을 운영하는 입장에서는 무시하기 어려운 지점입니다.
또 하나, 노우스 리서치가 던지는 논점은 동질성 위험입니다. 프런티어 연구소들이 비슷한 세계관을 공유하면, 여러 에이전트를 붙여 놓아도 같은 방향으로 동시에 틀리는 상관 실패가 발생할 수 있습니다. 모델을 여러 개 돌리는 것이 안전장치가 되려면, 애초에 서로 다른 관점을 가진 모델이 선택지에 있어야 한다는 논리입니다.
그래서 이 모델의 성격은 “더 똑똑한 모델”이 아니라 “다른 관점의 모델” 입니다. 헤르메스 에이전트처럼 로컬 모델을 백엔드로 붙일 수 있는 에이전트에서는 이런 모델이 곧 정책 선택지가 됩니다. 같은 작업을 서로 다른 가치 축의 모델에 돌려 결과가 얼마나 벌어지는지 비교하는 식의 운용이 가능해집니다.
6. 직접 써보려면 — 라이선스와 하드웨어
도입을 검토하는 분들이라면 실무 조건부터 확인하는 게 순서입니다.
| 항목 | 내용 |
|---|---|
| 라이선스 | Apache 2.0 — 상업적 이용·수정·재배포 가능 |
| 가중치 | Hugging Face NousResearch/Arete-27B |
| 학습 데이터 | NousResearch/arete-data-pairs (공개) |
| 평가셋 | NousResearch/Propaganda_Eval (803개 프롬프트 + 원문 + 채점 스크립트) |
| 입력 | 텍스트 전용 (비전 인코더는 학습에서 동결) |
| 컨텍스트 | 학습 기준 64k |
하드웨어는 27B답게 정직하게 잡아야 합니다. bf16 원본은 약 54GB 수준이고, 4비트 양자화를 쓰면 15~16GB 안팎으로 줄어듭니다. 24GB VRAM 그래픽카드나 통합 메모리가 넉넉한 맥에서 4비트 양자화로 돌리는 구성이 현실적인 출발점입니다. 여유 있게 굴리려면 48GB 이상이 편합니다.
헤르메스 에이전트는 로컬 백엔드(llama.cpp 계열)를 공식 지원하므로, 모델 파일만 준비되면 백엔드 교체 방식으로 갈아끼울 수 있습니다. 다만 27B 로컬 모델은 토큰 속도가 API 모델보다 확실히 느립니다. 대화형 비서보다는 배치성 작업(대량 문서 분류, 보고서 초안, 코드 리뷰 보조)에 붙이는 편이 체감이 좋습니다.
7. 솔직한 한계 — 여기까지는 감안하고 봐야 합니다
좋은 숫자만 옮기면 균형이 깨지니, 발표문과 모델 카드에 직접 적힌 단서를 그대로 정리합니다.
① 평가를 만든 곳이 학습을 한 곳과 같습니다. 803개 프롬프트, 루브릭, 판정 기준 모두 노우스 리서치가 설계했습니다. 심사자 블라인드와 사람 채점 파일럿, 학습·평가 중복 제거 같은 장치는 성실하지만, 제3자 재현이 나오기 전까지는 자기 보고 수치입니다. 다행히 평가셋과 채점 스크립트가 공개돼 있어 직접 돌려볼 수는 있습니다.
② 심사자가 LLM입니다. Grok 4.7이 판정하고, 사람은 25개 파일럿으로 루브릭을 다듬는 데 참여했습니다. “사실을 진술했는가”를 문구가 아닌 실질로 판정하도록 루브릭을 다듬었다고는 하지만, LLM 심사 특유의 흔들림은 남습니다.
③ 절대 성능은 여전히 27B급입니다. 사실 점수 2.98은 교사 모델 Inkling의 3.96, Mistral Large 4의 3.65보다 낮습니다. 선전 비율을 낮춘 것과 지식이 깊어진 것은 별개입니다. 복잡한 추론·장문 분석이 필요한 작업은 여전히 상위 모델이 낫습니다.
④ “모든 편향을 고쳤다”는 주장이 아닙니다. 발표문 스스로 “기존 관점과 연관된 모든 행동을 교정했다고 주장하지 않는다”고 밝힙니다. 특정 가치 축을 겨냥해 잠재적 원인을 다뤘다는 수준입니다.
⑤ 가치 정렬은 결국 조직의 결정입니다. 이 모델은 “중립”이 아니라 특정 방향으로 명시적으로 정렬된 모델입니다. 어떤 관점을 기본값으로 둘지는 기술 문제가 아니라 거버넌스 문제입니다. 사내 정책·고객 응대 기준과 충돌하지 않는지 먼저 확인해야 합니다.
⑥ 비전은 학습되지 않았습니다. 이미지 입력은 가능하지만 시각 인코더가 동결됐고 데이터도 텍스트 전용입니다. 스크린샷·도면·표 이미지를 다루는 워크플로에 이 모델을 주력으로 놓는 건 권하지 않습니다.
8. 정리 — 이런 분들께 의미 있는 릴리스
정리하면 이렇습니다.
- 로컬·온프레미스로 에이전트를 돌리는 조직 — Apache 2.0에 27B, 64k 컨텍스트는 여전히 매력적인 조합입니다. 여기에 “관점을 고를 수 있다”는 선택지가 더해졌습니다.
- 같은 작업을 여러 모델에 돌려 교차 검증하는 구성 — 관점이 다른 모델을 한 축으로 넣을 수 있다는 점이 실질적 이득입니다.
- 모델 정렬을 연구·실험하는 팀 — 평가셋과 학습 데이터, 채점 스크립트가 전부 공개돼 있어 재현 가능한 실험 재료가 됩니다.
반대로 최고 품질의 추론이 필요한 단일 작업이나, 이미지·도면 처리 비중이 높은 워크플로라면 이 모델이 답은 아닙니다. 그 경우엔 상위 모델을 쓰고, 이 모델은 보조 축으로 두는 편이 낫습니다.
가성비 좋은 로컬 모델을 찾는 분들께는 분명 반가운 소식입니다. 다만 도입 전에 자체 평가셋으로 한 번 돌려보는 것을 권합니다. 공개된 803개 프롬프트가 좋은 출발점이고, 우리 업무 도메인 프롬프트 20~30개만 얹어도 판단이 훨씬 빨라집니다. 숫자는 남의 것이고, 판단은 결국 쓰는 쪽 몫입니다.
참고 자료
- Nous Research 공식 발표: https://nousresearch.com/arete
- 모델 카드: https://huggingface.co/NousResearch/Arete-27B
- 평가 데이터셋: https://huggingface.co/datasets/NousResearch/Propaganda_Eval
- 학습 데이터셋: https://huggingface.co/datasets/NousResearch/arete-data-pairs