오픈AI, 첫 자체 AI 칩 '할라피뇨' 공개 — 브로드컴과 손잡고 엔비디아 추론 아성에 도전

오픈AI와 브로드컴이 6월 24일(현지시간) 오픈AI의 첫 자체 AI 칩 'Jalapeño(할라피뇨)'를 공개했다. 두 회사가 함께 구축 중인 다세대(multi-generation) 컴퓨팅 플랫폼의 첫 번째 AI 가속기로, 오픈AI가 그리는 LLM 추론의 미래상에 맞춰 설계됐다.

'인텔리전스 프로세서' — 추론 전용 백지 설계

Jalapeño는 범용 GPU가 아니라 대규모언어모델(LLM) 추론에 특화된 가속기다. 오픈AI는 ChatGPT, Codex, API, 그리고 앞으로 나올 에이전트 제품까지 매일 굴리며 쌓은 실제 운영 데이터를 바탕으로 이 칩을 "백지 상태에서" 설계했다고 밝혔다. 자사 워크로드뿐 아니라 업계 전반의 현재·미래 LLM을 두루 겨냥한 범용성도 함께 고려됐다.

특히 눈에 띄는 건 개발 속도다. 초기 설계부터 제조 단계인 테이프아웃까지 단 9개월밖에 걸리지 않았는데, 오픈AI와 브로드컴은 이를 고성능 첨단 반도체로서는 역대 가장 빠른 ASIC 개발 주기로 보고 있다. 완성된 칩은 브로드컴의 혹 탄(Hock Tan) CEO와 찰리 카와스(Charlie Kawwas) 사장이 오픈AI의 샘 올트먼 CEO와 그렉 브록만 사장에게 직접 전달했다.

왜 자체 칩인가 — '풀스택'을 향한 수직 통합

오픈AI가 자체 칩에 나선 핵심 이유는 비용과 통제력이다. 브로드컴 혹 탄 CEO에 따르면 Jalapeño는 일반적인 AI GPU 대비 약 50%의 비용 절감 효과를 보이고 있다. 추론은 모델을 한 번 학습시키고 끝나는 학습(training)과 달리, 사용자가 쓸 때마다 반복적으로 연산이 일어나기 때문에 대규모 서비스에서는 추론 비용이 곧 사업의 손익을 좌우한다.

오픈AI는 이 칩을 기반으로 마이크로소프트 등 파트너와 함께 2026년부터 기가와트(GW)급 데이터센터 구축을 본격화한다는 계획이다. 모델·소프트웨어에 이어 칩과 데이터센터까지 직접 통제하는 '풀스택' 전략의 일환이다.

엔비디아 추론 아성에 도전

이번 발표의 또 다른 의미는 엔비디아 견제다. AI 가속기 시장은 학습·추론 모두 엔비디아가 사실상 독점해 왔지만, 빅테크들은 비용과 공급망 종속을 줄이기 위해 자체 칩으로 눈을 돌리고 있다. 구글(TPU), 아마존(Trainium), 메타 등에 이어 오픈AI까지 자체 추론 칩 대열에 합류하면서, 엔비디아가 가장 큰 수익을 내는 추론 영역에서의 경쟁이 한층 가열될 전망이다.

의미와 전망

Jalapeño 공개는 AI 경쟁이 모델 성능을 넘어 **'추론 인프라의 단가 싸움'**으로 본격 확장됐음을 보여준다. 9개월이라는 압축된 개발 주기는 빅테크–반도체 기업 간 협업이 얼마나 빠르게 맞춤형 실리콘을 찍어낼 수 있는지를 입증했다. 실제 양산·배치 성과와 50% 절감 주장의 검증 여부가 향후 관전 포인트다.