Kimi K3: 문의 어두운 면, 2.8조 파라미터 오픈소스 가중치 모델 출시

서론

Moonshot AI가 총 2.8조 개의 매개변수와 100만 토큰 컨텍스트 윈도우를 갖춘 새로운 멀티모달 추론 모델인 Kimi K3를 출시했습니다.

이 베이징 소재 기업은 Kimi K3가 3조 매개변수 규모에 도달한 최초의 오픈소스 모델이라고 밝혔습니다. 이 모델은 장기 소프트웨어 엔지니어링, 지식 작업, 시각적 추론, 연구 및 다단계 에이전트 작업을 위해 설계되었습니다.

그 규모는 즉시 주목을 받았습니다. Kimi K3의 총 매개변수 수는 이전 세대 중국 최첨단 모델을 정의했던 조 단위 매개변수 수준의 오픈소스 가중치 시스템을 훨씬 능가합니다.

그러나 규모가 이야기의 전부는 아닙니다. Kimi K3는 고도로 희소한 혼합 전문가 아키텍처를 채택하여 각 토큰이 전문가 중 극히 일부만을 활성화합니다. Moonshot AI는 또한 긴 시퀀스와 심층 네트워크를 통해 정보가 흐르는 방식을 개선하기 위한 구조적 변화를 도입했습니다.

이 회사는 Kimi K3가 자체 여러 테스트에서 최첨단 수준에 도달했지만, 전반적으로 가장 강력한 독점 모델에는 여전히 뒤처진다고 밝혔습니다. 출시 전후에 발표된 독립 평가에서도 Kimi K3를 현재 사용 가능한 선도적 모델 중 하나로 꼽았습니다.

2.8조 매개변수 멀티모달 모델

Kimi K3는 텍스트 및 시각적 입력을 처리할 수 있는 네이티브 멀티모달 모델입니다. Moonshot AI는 이를 간결하고 고립된 응답보다는 지속적인 추론이 필요한 작업에 포지셔닝했습니다.

주요 사양은 다음과 같습니다.

사양	Kimi K3
총 매개변수	2.8조
아키텍처	희소 혼합 전문가
라우팅 전문가 수	896
토큰당 활성화되는 전문가 수	16
컨텍스트 윈도우	100만 토큰
모달	텍스트 및 시각적 입력
주요 사용 사례	프로그래밍, 지식 작업, 연구, 추론, 멀티모달 창작
출시 시 기본 추론 모드	최대 사고 노력
전체 가중치 공개 목표	2026년 7월 27일 이전
대규모 배포 권장 사항	최소 64개 가속기 슈퍼노드 구성

총 매개변수 수는 전체 모델을 설명하는 것이지, 토큰당 사용되는 매개변수 수가 아닙니다. Kimi K3는 추론 과정에서 896개 전문가 중 16개를 활성화하여 생성된 각 토큰에 대해 전체 네트워크를 실행할 필요 없이 방대한 용량의 이점을 누릴 수 있습니다.

이러한 차이는 중요합니다. 희소 모델은 수조 개의 매개변수를 포함하면서도 실제 계산량은 동일한 규모의 밀집 모델에 필요한 것보다 훨씬 낮게 유지할 수 있습니다.

희소 활성화를 채택하더라도 Kimi K3는 여전히 매우 까다로운 호스팅 시스템입니다. Moonshot AI는 64개 이상의 가속기가 있는 슈퍼노드 구성에서 배포할 것을 권장하며, 이는 실제 자체 호스팅을 대부분의 개인 개발자와 소규모 팀의 역량 범위 밖으로 만듭니다.

Kimi K3 뒤에 숨은 아키텍처

Moonshot AI는 두 가지 핵심 아키텍처 기술인 Kimi 델타 어텐션 메커니즘과 어텐션 잔차를 강조합니다.

Kimi 델타 어텐션 메커니즘

Kimi 델타 어텐션 메커니즘(KDA)은 컨텍스트 길이가 증가함에 따라 어텐션 계산을 더욱 효율적으로 만들기 위해 설계되었습니다.

모델이 매우 긴 시퀀스를 처리할 때 기존 어텐션 메커니즘은 비용이 많이 들게 됩니다. KDA의 목표는 추론 및 도구 사용에 필요한 정보를 유지하면서 대규모 컨텍스트 처리를 위한 보다 확장 가능한 기반을 제공하는 것입니다.

백만 토큰 윈도우는 Kimi K3가 대규모 코드베이스, 방대한 문서 컬렉션, 긴 에이전트 기록 또는 이전의 많은 모델이 제한했던 다양한 소스 자료 조합을 처리할 수 있는 충분한 용량을 갖추도록 합니다.

대규모 컨텍스트 윈도우가 모든 토큰이 동등하게 완전히 활용된다는 것을 보장하지는 않습니다. 검색 품질, 추론 안정성, 프롬프트 구조 및 에이전트 오케스트레이션은 여전히 중요합니다. 그러나 확장된 윈도우는 개발자에게 공격적인 초기 압축 없이 관련 자료를 보존할 수 있는 더 큰 여유를 제공합니다.

어텐션 잔차

어텐션 잔차(AttnRes)는 모델 깊이에서 표현이 전달되는 방식을 변경합니다.

이 메커니즘은 기존 잔차 연결을 통해 정보가 균일하게 축적되도록 하는 대신, 초기 계층에서 유용한 표현을 선택적으로 검색합니다.

Moonshot AI는 이것이 모델 깊이에 걸친 정보 흐름을 개선하고 보다 효율적인 확장에 기여한다고 밝혔습니다.

안정적인 잠재 혼합 전문가

Kimi K3는 희소 전문가 라우팅을 안정적인 잠재 혼합 전문가 프레임워크와 결합합니다. 각 토큰은 896개의 라우팅 전문가 중 16개만 활성화합니다.

이러한 희소성 하에서 라우팅 품질은 중요한 엔지니어링 문제가 됩니다. 균형이 맞지 않는 시스템은 전문가 하위 집합에 과부하를 주거나, 하드웨어를 낭비하거나, 처리량을 저하시킬 수 있습니다.

Moonshot AI는 분위수 기반 균형 전략과 균형 잡힌 전문가 병렬 훈련 방법을 사용하여 중요 경로에서 호스트 동기화 없이 워크로드를 효율적으로 분배한다고 밝혔습니다.

양자화 인식 훈련

이 모델은 지도 미세 조정 단계부터 양자화 인식 훈련을 사용합니다.

Moonshot AI에 따르면 Kimi K3는 MXFP4 가중치와 MXFP8 활성화 값을 사용합니다. 저정밀도 형식은 메모리 및 통신 요구 사항을 줄일 수 있지만 실제 성능은 여전히 하드웨어 및 추론 엔진 지원에 따라 달라집니다.

이러한 아키텍처 개선 사항은 전체적으로 Kimi K2 대비 약 2.5배의 확장 효율성 향상을 제공한다고 알려졌습니다.

장기 프로그래밍 전용 설계

프로그래밍은 Moonshot AI가 Kimi K3에 대해 강조하는 주요 응용 분야 중 하나입니다.

이 모델은 긴 엔지니어링 세션 동안 효율성을 유지하도록 설계되어 대규모 코드베이스를 탐색하고, 터미널 도구를 조작하고, 런타임 피드백을 확인하고, 제한된 사람의 감독 하에 지속적으로 반복할 수 있습니다.

이는 단일 함수를 생성하기 위해 프롬프트만 사용하는 모델과 다릅니다. 장기 프로그래밍은 시스템이 다음을 수행하도록 요구할 수 있습니다.

1. 낯선 코드베이스 탐색.
2. 아키텍처 및 종속성 이해.
3. 다단계 계획 수립.
4. 여러 모듈에 걸쳐 파일 편집.
5. 빌드 및 테스트 실행.
6. 오류 메시지 및 로그 읽기.
7. 스크린샷 또는 렌더링 출력 비교.
8. 구현 수정 반복.
9. 작업 전반에 걸쳐 관련 컨텍스트 유지.

Moonshot AI는 또한 프로그래밍과 시각적 추론을 결합하는 과제를 강조했습니다. Kimi K3는 프런트엔드 인터페이스, 게임, CAD 워크플로우 및 기타 대화형 소프트웨어를 처리할 때 스크린샷과 시각적 피드백을 활용할 수 있습니다.

Moonshot 코딩 벤치마크 결과

Moonshot은 여러 소프트웨어 엔지니어링 벤치마크 및 에이전트 프레임워크에서 Kimi K3를 평가했습니다.

이 회사는 다음 분야에서 강력한 성능을 보고했습니다.

• DeepSWE
• Terminal-Bench 2.1
• FrontierSWE
• Program Bench
• SWE Marathon
• Kimi Code Bench 2.0
• GPU 커널 최적화
• 컴파일러 빌드

이러한 평가가 모두 동일한 설정을 사용하는 것은 아닙니다. 일부 모델은 Kimi Code를 통해 테스트되었고, 다른 모델은 Claude Code 또는 Codex를 통해 테스트되었습니다. Moonshot은 벤치마크 각주에서 이러한 차이점을 기록했습니다.

에이전트 프레임워크가 결과에 영향을 미칠 수 있기 때문에 이는 중요합니다. 도구 인터페이스, 컨텍스트 관리, 재시도 동작, 권한 시스템 및 프롬프트 디자인은 모두 장기 실행 작업에서 모델 성능에 영향을 미칠 수 있습니다.

Moonshot은 Kimi K3가 다음 테스트에서 다음과 같은 결과를 달성했다고 보고했습니다.

• DeepSWE 대비 테스트 점수 67.5
• Terminal-Bench 2.1 점수 86.3
• FrontierSWE 점수 81.2
• Program Bench 점수 77.8
• SWE Marathon 점수 42.0
• 내부 Kimi Code Bench 2.0 점수 72.8

이는 회사가 보고한 결과이며 독립적으로 실행된 벤치마크와 함께 읽어야 합니다.

GPU 커널 최적화

Moonshot은 또한 GPU 최적화에서 모델을 테스트했습니다.

커널 수준의 역량, 단순한 일반 애플리케이션 코드 작성 이상

평가된 각 모델은 동등한 샌드박스 환경에 배치되었으며, 여러 작업을 구성, 재작성 및 벤치마킹하는 데 최대 24시간이 주어졌습니다. 작업 부하에는 Kimi K3 자체 아키텍처와 관련된 구성 요소가 포함되었으며, NVIDIA H200 하드웨어와 또 다른 범용 GPU 플랫폼에서 테스트되었습니다.

Moonshot에 따르면, 폴백 동작이 허용되었을 때 Kimi K3는 Claude Fable 5와 경쟁력을 보였으며, 이 설정에서 테스트된 다른 여러 모델보다 크게 우수한 성능을 보였습니다.

회사는 또한 Kimi K3의 초기 체크포인트가 모델 자체 개발 과정에서 사용된 대부분의 커널 최적화 작업을 처리했다고 밝혔습니다.

이러한 능력은 효율적인 AI 시스템이 단순히 모델 아키텍처에만 의존하지 않기 때문에 중요합니다. 커널 엔지니어링은 모델이 가속기, 메모리 대역폭, 통신 링크 및 특수 수치 형식을 얼마나 효과적으로 사용하는지 결정합니다.

GPU 컴파일러를 처음부터 구축

또 다른 내부 테스트에서 Kimi K3는 MiniTriton이라는 간결한 Triton 계열 GPU 프로그래밍 시스템을 만들었습니다.

Moonshot에 따르면 최종 프로젝트는 다음을 포함합니다:

• MLIR 기반 타일 수준 중간 표현
• 최적화 패스
• PTX 코드 생성 파이프라인
• 도메인 특정 언어 프론트엔드
• 런타임 구성 요소
• 엔드투엔드 nanoGPT 학습 지원

Moonshot은 선정된 지원 벤치마크에서 MiniTriton이 Triton 및 torch.compile과 일치하거나 능가하는 성능을 보였으며, nanoGPT 테스트에서 안정적인 학습 동작을 유지했다고 보고했습니다.

이 결과는 회사의 사례 연구로 간주되어야 하며, 생성된 컴파일러가 성숙한 도구를 대체할 준비가 되었다는 증거로 간주되어서는 안 됩니다.

프로덕션 인프라. 그럼에도 불구하고, 이는 Moonshot이 Kimi K3를 설계하면서 목표로 삼았던 다단계 엔지니어링 작업 유형을 보여줍니다.

비주얼 프로그래밍, 게임 개발 및 칩 설계

Kimi K3의 네이티브 멀티모달 설계는 소스 코드와 시각적 출력 간의 자유로운 전환을 가능하게 합니다.

게임 및 프론트엔드 개발 작업에서 모델은 구현 코드를 생성하고, 스크린샷을 검사하며, 시각적 문제를 식별하고 코드를 수정할 수 있습니다. Moonshot은 이를 "개발 루프 내에 시각 정보 유지"라고 설명합니다.

회사는 또한 초기 칩 설계 데모를 시연했습니다. 48시간의 자율 실행 동안 Kimi K3는 자체 아키텍처를 기반으로 소규모 모델을 서비스하기 위한 칩을 설계, 최적화 및 검증했다고 합니다.

이 개념 증명은 오픈 소스 전자 설계 자동화 도구와 Nangate 45나노미터 공정 라이브러리를 사용했습니다. Moonshot은 시뮬레이션 설계 결과를 보고했습니다:

• 면적은 4제곱밀리미터 이내로 제어됨.
• 타이밍 수렴 주파수는 100MHz에 도달.
• 약 146만 개의 표준 셀 포함.
• 0.277MB의 SRAM 사용.
• 융합 역양자화 INT4 곱셈-누적 어레이 포함.
• 시뮬레이션에서 초당 8700개 이상의 토큰 처리.

이는 시뮬레이션 및 초기 연구 데모로, 실제 생산 칩이 아닙니다.

Kimi K3의 연구 및 지식 작업 적용

Moonshot은 Kimi K3를 연구 및 전문 지식 워크플로우에 적합한 모델로도 포지셔닝합니다.

전산 천체물리학의 한 사례에서 모델은 중성자별 특성과 관련된 보편적 관계를 재현하도록 요청받았습니다.

Moonshot은 Kimi K3가 다음과 같다고 밝혔습니다:

• 20편 이상의 논문을 검토하고 교차 검증.
• 완전한 수치 계산 파이프라인 구현.
• 300개 이상의 상태 방정식 평가.
• 발표된 공식의 불일치 식별.
• 3000줄 이상의 Python 코드 생성.
• 대화형 HTML 데이터 대시보드 구축.

회사 추정에 따르면, 모델이 이 프로젝트를 완료하는 데 약 2시간이 걸린 반면, 숙련된 연구자는 1~2주가 소요됩니다.

다른 사례 연구와 마찬가지로, 이 결과는 보편적으로 적용 가능한 시간 절약 보장으로 간주되어서는 안 됩니다. 성능은 작업 내용, 사용 가능한 도구, 데이터 소스 품질, 검증 방법 및 사람의 검토 정도에 따라 달라집니다.

백만 토큰 컨텍스트 윈도우

Kimi K3의 컨텍스트 윈도우는 가장 중요한 상업적 사양 중 하나입니다.

백만 토큰 용량은 다음과 같은 다양한 조합을 수용할 수 있습니다:

• 문서 및 로그가 포함된 대규모 소프트웨어 코드베이스.
• 방대한 장문 보고서 및 원본 문서.
• 확장된 도구 호출 기록.
• 장기 연구 세션.
• 대량의 이미지 및 텍스트 모음.
• 여러 초안, 수정 버전 및 중간 결과.

Moonshot에 따르면, Kimi K3는 전체 추론 기록을 보존할 때 최상의 성능을 보입니다.

이는 중요한 구현 요구 사항을 생성합니다. 에이전트 프레임워크가 모델의 초기 사고 기록 일부를 삭제하거나, 잘못 요약하거나, 세션 중간에 다른 모델로 전환하면 출력 품질이 불안정해질 수 있습니다.

Moonshot은 검증된 호환 프레임워크(예: Kimi Code)를 사용하고 활성 K3 세션 중에는 모델 전환을 피할 것을 권장합니다.

독립 벤치마크 결과

독립적인 테스트 결과는 Kimi K3가 최첨단 모델에 속한다는 결론을 널리 지지하지만, 모든 범주에서 선두를 달리지는 않았습니다.

Artificial Analysis는 지능 지수에서 Kimi K3에 57점을 부여했으며, 평가 시점에 3위로 순위를 매겼습니다. 전체적인 결과는 Claude Opus 4.8 및 GPT-5.5와 비슷하지만 Claude Fable 5 및 GPT-5.6 Sol에는 뒤처지는 것으로 설명되었습니다.

Artificial Analysis는 또한 Kimi K3가 평가 과정에서 비정상적으로 장황하여 약 1억 3000만 개의 토큰을 생성한 반면, 유사 모델의 평균 생성량은 약 6300만 개의 토큰이라고 보고했습니다.

이는 비용 및 지연 시간과 관련이 있습니다. 모델의 토큰당 가격은 경쟁력 있을 수 있지만, 동일한 작업을 완료하는 데 더 많은 토큰을 사용하면 여전히 비용이 많이 들 수 있습니다.

로이터는 발표 당시 다른 제3자 테스트 결과를 보도했습니다:

• Arena.ai는 웹 인터페이스 구축 평가에서 Kimi K3를 1위로 선정.
• Vals AI는 Claude Fable 5 다음으로 2위, GPT-5.6 Sol보다 앞서는 순위를 부여.
• Artificial Analysis는 복잡한 다단계 작업에서 GPT-5.5 및 Claude Opus 4.8과 성능이 비슷하다고 발견.

평가자가 샘플을 추가하고, 테스트 플랫폼을 업데이트하고, 모델을 재테스트함에 따라 벤치마크 순위는 변경됩니다. 따라서 구매 또는 배포 결정을 내리기 전에 최신 리더보드를 확인해야 합니다.

오픈 웨이트 상태 및 출시 시기

Kimi K3는 오픈 웨이트 모델로 발표되었지만, 이 글을 쓰는 시점에서 완전한 다운로드 가능한 웨이트는 아직 공개되지 않았습니다.

Moonshot의 공식 출시 페이지에 따르면 웨이트는 2026년 7월 27일 이전에 공개될 예정입니다.

이 차이는 중요합니다:

• 모델, 아키텍처, API 및 제품 통합이 발표되었습니다.
• Kimi K3는 Moonshot의 호스팅 제품 및 API를 통해 이미 액세스할 수 있습니다.
• 전체 모델 웨이트는 향후 공개될 예정입니다.
• 로컬 배포 지침 및 최종 에코시스템 지원은 웨이트 공개 후에도 계속 변경될 수 있습니다.

웨이트 및 해당 라이선스와 기술 문서가 공개되기 전까지, 특정 자체 호스팅 프로세스, 지원되는 추론 엔진 또는 하드웨어 구성에 대한 주장은 잠정적인 정보로 간주되어야 합니다.

오픈 웨이트가 자동으로 제한 없는 오픈 소스를 의미하지는 않습니다. 최종 라이선스는 사용자가 수정, 재배포 또는 상업적으로 사용할 수 있는 내용을 결정합니다.

대부분의 사용자가 로컬에서 Kimi K3를 실행하지 않는 이유

2.8조 개의 매개변수를 가진 모델은 로컬 AI의 일반적인 정의를 훨씬 초과합니다.

희소 활성화 및 저정밀 웨이트를 사용하더라도, 전체 체크포인트, 전문가 라우팅, 고대역폭 통신, 컨텍스트 캐싱 및 런타임 오버헤드는 여전히 대규모 분산 시스템을 필요로 합니다.

Moonshot은 배포를 위해 슈퍼노드 구성에서 최소 64개의 가속기를 사용할 것을 권장합니다.

실제 영향은 다음과 같습니다:

1. 개인 사용자는 호스팅 API 또는 애플리케이션을 통해 Kimi K3에 액세스할 가능성이 높습니다.
2. 기업은 자체 클러스터를 유지 관리하기보다 전문 추론 제공업체를 사용할 수 있습니다.
3. 오픈 웨이트는 자금이 충분한 연구소, 클라우드 플랫폼, 추론 회사 및 대규모 인프라 팀에 가장 직접적으로 유용합니다.
4. 양자화 또는 증류된 커뮤니티 변형이 결국 진입 장벽을 낮출 수 있지만, 해당 버전은 전체 모델의 효과와 일치하지 않을 수 있습니다.

로이터가 인용한 추정에 따르면, 모델을 자체 호스팅하는 데 필요한 관련...

시스템에는 수십만 달러 상당의 컴퓨팅 장비가 필요할 수 있습니다.

구체적인 비용은 최종 웨이트 형식, 가속기 유형, 네트워크 구성, 컨텍스트 길이, 처리량 목표, 중복성 체계 및 서비스 소프트웨어에 따라 달라집니다.

API 가격 및 이용 가능성

Kimi K3는 Moonshot의 여러 제품을 통해 이미 제공되고 있습니다:

• Kimi.com
• Kimi 워크벤치
• Kimi 코드
• Kimi

오픈 인터페이스 (Kimi API)

• Kimi 기업용 버전

Kimi 코드 사용자는 터미널 인터페이스의 모델 명령을 통해 Kimi K3 모델을 선택할 수 있습니다.

Moonshot AI의 현재 API 가격은 다음과 같습니다.

토큰 유형	백만 토큰당 가격
캐시 적중 입력	0.30달러
캐시 미적중 입력	3.00달러
출력	15.00달러

API 모델 이름은 다음과 같습니다.

kimi-k3

Moonshot AI는 공식 API가 Mooncake 분리형 추론 아키텍처를 통해 코딩 작업 부하에서 90% 이상의 캐시 적중률을 달성했다고 밝혔습니다.

실제 적용 비용은 프롬프트 길이, 추론 깊이, 캐시 재사용 정도, 도구 호출 횟수, 재시도 메커니즘 및 출력 상세 수준에 따라 달라집니다.

중국 AI 연구소, 반복 주기 가속화

Kimi K3 출시와 동시에 중국 인공지능 기업들은 비정상적으로 높은 빈도로 새로운 모델을 내놓고 있습니다.

Moonshot AI, Z.ai, MiniMax, DeepSeek, Meituan 등의 개발자들은 더 크고 강력한 시스템을 지속적으로 출시하면서 가격, 오픈소스 가중치, 코드 능력 및 에이전트 성능 면에서 치열한 경쟁을 벌이고 있습니다.

로이터 통신은 이러한 반복 속도가 이전에 중국의 선도 모델이 항상 미국 최신 기술보다 수개월 뒤처져 있다는 주장을 무너뜨렸다고 지적했습니다.

단순한 모델 규모만으로 선도적 위치를 증명할 수는 없습니다. 파라미터 수는 밀집 아키텍처와 희소 아키텍처 간에 횡적 비교가 어려우며, 일부 주요 미국 개발사들은 현재 모델의 구체적인 규모를 공개하지 않고 있습니다.

그럼에도 불구하고, Kimi K3는 중국 연구소가 모델 규모, 아키텍처 설계, 긴 컨텍스트 추론 및 에이전트 엔지니어링 등 분야에서 최전선에 도달했음을 보여줍니다.

시장 반응 및 Moonshot AI의 확장

로이터 통신에 따르면, Kimi K3 출시 후 여러 중국 AI 경쟁사의 상장 주식이 하락했습니다.

장 마감 직전 Zhipu AI는 27.7%, MiniMax는 16.5% 하락했습니다.

단일 거래일의 성과만으로 새로운 모델이 시장 경쟁 구도에 미치는 장기적 영향을 확정할 수는 없지만, 이러한 반응은 공개 시장이 중국 AI 기업의 기술 발전에 주목하고 있음을 보여줍니다.

Moonshot AI는 Alibaba, Tencent 등 주요 투자자들의 지원을 받고 있습니다.

로이터 통신은 또한 블룸버그 통신을 인용하여 Moonshot AI가 약 300억 달러의 가치 평가로 약 20억 달러의 신규 자금을 조달하려 하며, 홍콩 상장 전에 완료할 계획이라고 보도했습니다. 그러나 해당 자금 조달 및 상장 계획은 아직 보도 단계에 불과하며 최종 확정되지 않았습니다.

Kimi K3의 공개된 한계점

Moonshot AI는 공식 발표에서 드물게 솔직하게 몇 가지 한계점을 밝혔습니다.

추론 이력에 대한 민감성

Kimi K3는 학습 과정에서 추론 이력을 유지합니다. 에이전트 프레임워크가 전체 역사적 사고 내용을 반환하지 못하면 성능이 불안정해질 수 있습니다. 또한 다른 모델과 수립된 세션 중간에 Kimi K3로 전환하는 것은 권장되지 않습니다.

과도한 적극성

이 모델은 고강도, 장시간 실행 작업에 최적화되었습니다. 따라서 명령어가 모호하게 표현될 경우 예상치 못한 결정을 내릴 수 있습니다.

또는 작은 장애에 직면했을 때도 마찬가지입니다. 정밀한 동작이 필요한 애플리케이션은 시스템 프롬프트 또는 AGENTS.md 파일을 통해 명시적 제약 조건을 제공해야 합니다.

사용자 경험 격차

Moonshot AI는 Kimi K3가 많은 기술 평가에서 경쟁력이 뛰어나지만, 전체적인 사용자 경험은 여전히 Claude Fable 5 및 GPT-5.6 Sol에 뒤처진다고 밝혔습니다.

높은 인프라 요구 사항

개방형 가중치가 시스템을 쉽게 완전히 배포할 수 있다는 것을 의미하지는 않습니다. 그 규모, 네트워크 요구 사항 및 긴 컨텍스트 메모리 요구 사항은 높은 운영 장벽을 만듭니다.

높은 토큰 소비량

독립 테스트에 따르면 복잡한 평가에서 Kimi K3의 토큰 소비량은 최첨단 모델 평균보다 상당히 높을 수 있습니다. 이는 전체 비용, 응답 속도 및 속도 제한 소비에 영향을 미칩니다.

이번 출시가 개발자에게 의미하는 바

대부분의 개발자에게 Kimi K3는 처음에는 자체 호스팅 형태가 아닌 관리형 모델로 제공될 것입니다.

가장 중요한 특징은 다음과 같습니다.

• 초대형 컨텍스트 창
• 강화된 지속적 코딩 동작
• 네이티브 시각적 추론 능력
• 에이전트 지향 도구 호출
• 전문 지식 작업에서의 경쟁력
• 공개 가격의 API 액세스
• 계획된 오픈 가중치

이 모델을 평가하는 팀은 벤치마크의 표면적 데이터에만 의존하지 않고 실제 워크플로를 테스트해야 합니다.

유용한 평가에는 다음이 포함될 수 있습니다.

1. 저장소 탐색 및 문제 해결
2. 긴 컨텍스트 명령 유지 능력
3. 시각적 참조를 통한 프론트엔드 구현
4. 도구 호출 신뢰성
5. 출력 중복성 및 비용
6. 모호한 명령어 아래의 성능
7. 대상 에이전트 프레임워크 호환성
8. 추론 이력 압축 후 성능
9. 데이터 거버넌스 및 배포 요구 사항
10. 실패한 명령어 또는 테스트 복구 능력

자주 묻는 질문

Kimi K3란 무엇인가요?

Kimi K3는 Moonshot AI가 출시한 2.8조 파라미터 다중 모드 추론 모델로, 장기 코딩, 지식 작업, 과학 연구, 시각 작업 및 에이전트 워크플로를 위해 설계되었습니다.

Kimi K3는 오픈소스인가요?

Moonshot AI는 Kimi K3를 개방형 모델로 설명하고 있으며, 전체 가중치를 공개할 계획입니다. 오픈 가중치가 반드시 오픈소스 소프트웨어를 의미하는 것은 아니며, 최종 라이선스 계약이 허용되는 사용, 수정 및 재배포 조건을 결정합니다.

Kimi K3 가중치를 지금 사용할 수 있나요?

이 글을 작성하는 시점에서는 아직 공개되지 않았습니다. Moonshot AI의 공식 발표에 따르면 전체 가중치는 2026년 7월 27일에 공개될 예정입니다.

Kimi K3 추론 시 얼마나 많은 파라미터가 사용되나요?

전체 모델은 2.8조 파라미터를 포함하지만, 희소 혼합 전문가 아키텍처를 채택하고 있습니다. Moonshot AI는 각 토큰이 896개의 전문가 중 16개를 활성화하므로 전체 네트워크가 동시에 실행되지는 않는다고 밝혔습니다.

Kimi K3를 개인용 PC에서 실행할 수 있나요?

전체 모델은 일반 개인용 PC에 적합하지 않습니다. Moonshot AI는 최소 64개의 가속기를 갖춘 슈퍼노드 배포 방식을 권장하므로, 대부분의 사용자는 관리형 제품 또는 API를 통해 Kimi K3에 액세스할 것입니다.

Kimi K3의 컨텍스트 창 크기는 얼마인가요?

Kimi K3는 100만 토큰의 컨텍스트 창을 지원합니다. 이 모델은 추론 이력 기록 방식에 민감하므로, 에이전트 프레임워크 호환성 및 컨텍스트 관리가 중요합니다.

Kimi K3 API 비용은 얼마인가요?

Moonshot AI가 공개한 가격은 캐시 적중 입력 시 백만 토큰당 0.30달러, 캐시 미적중 입력 시 백만 토큰당 3.00달러, 출력 시 백만 토큰당 15.00달러입니다. 총 비용은 출력 길이, 캐시 재사용, 도구 호출 및 재시도 횟수에 따라 달라집니다.

Kimi K3가 GPT-5.6 Sol이나 Claude Fable 5보다 더 우수한가요?

답변은 특정 작업과 벤치마크에 따라 달라집니다. Moonshot AI는 Kimi K3가 전반적으로 이 두 모델에 뒤처지지만, 일부 코딩 및 지식 작업 평가에서는 동등하거나 앞선다고 밝혔습니다. 독립 테스트에서도 Kimi K3가 선두 모델 중 하나로 나타났지만, 항상 1위는 아닙니다.

관련 도구

• Kimi: Moonshot AI의 관리형 에이전트 작업 공간으로 Kimi K3를 사용합니다.
• Kimi Work: Kimi의 문서, 연구, 대시보드 및 지식 작업 기능을 위해 설계된 데스크톱 환경입니다.
• Kimi Code: Moonshot AI의 터미널 및 IDE 코딩 에이전트로 Kimi K3 모델 선택을 지원합니다.
• Kimi API 플랫폼: 공식 API 액세스, 가격, 개발자 문서 및 계정 관리 서비스입니다.
• GitHub의 Moonshot AI: 공식 오픈소스 프로젝트, 모델 도구 및 연구 코드 저장소입니다.
• Hugging Face의 Moonshot AI: 공식 모델 카드 및 다운로드 가능한 Moonshot AI 모델 릴리스입니다.
• vLLM: Moonshot AI가 KDA 프리픽스 캐싱 기능을 지원할 것이라고 밝힌 오픈소스 추론 엔진입니다.

관련 링크

• Kimi K3 공식 기술 블로그: Moonshot AI의 아키텍처, 벤치마크, 가용성 및 제한 사항에 대한 발표입니다.

• Moonshot AI 공식 웹사이트: 회사의 공식 제품 및 연구 메인 페이지입니다.

• Kimi API 플랫폼 : 공식 Kimi K3 API 접속 포털 및 현재 토큰 가격 정보.

• Moonshot AI GitHub 조직 : Kimi 모델, Kimi Code 및 인프라 연구를 위한 공식 코드 저장소.

• Moonshot AI Hugging Face 조직 : 공식 모델 가중치 및 모델 카드 출시 버전.

• Artificial Analysis: Kimi K3 : 독립적인 지능 수준, 가격, 속도 및 컨텍스트 윈도우 평가.

• Artificial Analysis Kimi K3 벤치마크 보고서 : Kimi K3 지능 지수 성능에 대한 독립적 요약.

요약

Kimi K3는 Moonshot AI를 3조 매개변수 규모로 이끈 모델로, 코딩, 연구, 지식 작업 및 장기 실행 에이전트 작업을 위해 구축된 희소 멀티모달 모델입니다. 백만 토큰 컨텍스트 윈도우, Kimi Delta 어텐션 메커니즘, 어텐션 잔차 구조 및 고도로 희소한 전문가 라우팅 전략은 이러한 규모에서의 운영 효율성을 높이기 위해 설계되었습니다.

회사 벤치마크와 독립 평가 모두 Kimi K3를 현재 최첨단 모델 중 하나로 꼽고 있지만, Moonshot AI는 이 모델이 여전히 Claude Fable 5 및 GPT-5.6 Sol에 전반적으로 뒤처진다는 점을 인정합니다. 높은 토큰 소모 특성, 추론 이력에 대한 민감성, 능동적 행동 경향, 방대한 인프라 요구 사항은 중요한 실제적 제약 요소입니다.

Kimi K3는 이미 Moonshot의 애플리케이션과 API를 통해 사용할 수 있습니다. 전체 가중치는 원래 2026년 7월 27일 이전에 공개될 예정이었으므로, 대부분의 개발자는 초기에 전체 모델을 직접 배포하기보다는 호스팅 버전을 사용할 것입니다.

핵심 진전은 단순한 매개변수 규모에 있지 않습니다: Kimi K3는 극단적인 규모, 희소 활성화, 백만 단위 컨텍스트, 멀티모달 입력 및 장기 주기 에이전트 행동을 하나로 결합했으며, Moonshot AI는 이를 다운로드 가능한 가중치 형태로 공개할 계획입니다.