외부소식
연산의 시대에서 기억의 시대로
AI의 성능을 결정하는 것은 정말 GPU의 연산 능력뿐일까? 생성형 AI의 중심이 학습에서 추론으로 이동하면서, 메모리의 용량과 속도, 데이터 이동 방식이 새로운 병목으로 떠오르고 있다. 메모리 강국인 한국에는 큰 기회지만, 이제는 더 많이 만드는 것을 넘어 AI의 기억 구조를 설계해야 한다. 권석준 | 성균관대학교 공과대학 부학장 지난 30여 년간 반도체 산업의 혁신은 언제나 데이터를 계산하는 프로세서(CPU·GPU)를 중심으로 설명돼 왔다. 반도체에 집적되는 트랜지스터 수가 약 2년마다 두 배로 증가한다는 무어의 법칙(Moore’s Law)은 하나의 칩에 더 많은 트랜지스터를 집적해 프로세서 성능을 지속적으로 높여온 반도체 산업의 상징이었다. 최근 AI 시대를 이끈 GPU 역시 대규모 행렬 연산과 같은 AI 계산을 빠르게 처리하도록 설계된 프로세서다. 그동안 반도체 산업은 “얼마나 빠르게 계산할 수 있는가”를 중심으로 발전해 왔다. 반면 계산에 필요한 데이터를 임시 저장하고 프로세서로 전달하는 역할을 맡은 메모리는 오랫동안 프로세서를 뒷받침하는 조연에 머물러 있었다. 프로세서가 필요한 데이터를 얼마나 빠르게 받아올 수 있는지보다 프로세서 자체의 연산 성능이 더 중요한 경쟁력으로 여겨졌기 때문이다. 하지만 AI 시대에는 상황이 달라졌다. 특히 2025년 이후 AI 산업의 중심이 모델을 학습시키는 단계(training)에서 실제 서비스를 제공하는 단계인 추론(inference)으로 이동하면서 반도체의 경쟁력도 새로운 기준으로 평가되기 시작했다. AI 서비스의 경쟁력은 단순히 모델의 성능이 아니라 같은 비용과 전력으로 얼마나 많은 토큰(Token)을 빠르게 처리할 수 있는지에 의해 결정되기 시작했다. 그러자 프로세서의 계산 능력만큼이나 메모리가 데이터를 얼마나 빠르게 공급할 수 있는지가 핵심 경쟁력으로 떠올랐다. 이처럼 AI가 같은 비용과 전력으로 얼마나 많은 토큰을 처리할 수 있는지를 따지는 ‘토큰 경제학(Token Economics)’ 시대가 열리면서 메모리는 더 이상 프로세서를 뒷받침하는 조연이 아니라 AI 반도체 경쟁력을 좌우하는 핵심 기술로 부상하고 있다. 추론은 왜 메모리 게임으로 변모하고 있는가 이 전환을 이해하려면 먼저 학습과 추론이 근본적으로 다른 작업이라는 점부터 짚어야 한다. 오랫동안 우리는 두 과정을 뭉뚱그려 ‘AI 연산’이라고 불러왔다. 그러나 하드웨어의 관점에서 이 둘은 정반대의 성격을 갖는다. 대형언어모델(LLM)의 추론은 크게 두 단계로 나뉜다. 먼저 입력 프롬프트 전체를 한꺼번에 소화하는 프리필(prefill)이 있고, 그다음 모델이 답변을 한 토큰씩 순차적으로 뱉어내는 디코드(decode)가 뒤따른다. 프리필은 수백억, 수천억 개의 신경망 파라미터를 동시에 참조하는 거대한 행렬 연산이다. GPU가 가장 잘하는 대규모 병렬 처리가 마음껏 발휘되는 영역이다. 반면 디코드는 성격이 완전히 다르다. 모델은 새로운 토큰을 생성할 때마다 이전 토큰의 키와 값이 저장된 KV 캐시(KV cache)를 반복해서 읽어야 한다. 연산량 자체는 프리필보다 적지만, 모델 가중치와 KV 캐시를 메모리에서 끊임없이 가져오는 과정 때문에 메모리 대역폭의 지배를 받는다. 일반 사용자가 생성형 AI를 쓸 때 첫 답변이 나오기까지 걸리는 시간은 프리필의 영향을 받는다. 이후 답변이 얼마나 부드럽게 이어지는지는 디코드가 결정한다. 즉 사용자가 체감하는 속도의 대부분은 디코드에서 나오고, 디코드의 성능은 메모리에서 나온다. 루프라인(roofline) 모델은 이 구조를 명확히 보여준다. 디코드 과정에서는 연산 장치가 계산을 끝내고도 다음 데이터가 도착하기를 기다리는 상황이 반복된다. 연산 능력이 남아도는 것이 아니라, 메모리 대역폭이 부족한 것이다. 튜링상 수상자 데이비드 패터슨(David A. Patterson) UC버클리 교수도 최근 LLM 추론의 진짜 병목이 연산이 아니라 메모리와 인터커넥트에 있다고 지적했다. 토큰 경제학의 핵심도 여기에 있다. 100만 개의 토큰을 얼마의 비용과 에너지로 얼마나 빠르게 처리할 수 있는지는 프로세서 성능만으로 설명되지 않는다. 메모리 대역폭과 용량, 데이터 이동 비용이 함께 계산되어야 한다. 대표적인 병목은 고대역폭 메모리(HBM)의 용량과 대역폭 한계다. 문맥이 길어지고 동시 사용자가 많아질수록 KV 캐시는 빠르게 커진다. GPU에 탑재된 HBM 용량을 넘어서는 순간 시스템은 일부 데이터를 시스템 메모리나 저장장치로 옮기거나, 압축하거나, 오래된 정보를 버려야 한다. 어느 방법을 선택하든 지연이 발생한다. 이 비선형성이 지금 추론 인프라의 진짜 과제다. 최근에는 HBM에 고대역폭 플래시를 결합해 메모리 용량을 확장하고 추론 처리량과 전력 효율을 함께 끌어올리려는 연구가 진행되고 있다. 메모리 용량의 한계를 완화했을 때 동시에 처리할 수 있는 요청 수가 크게 늘어난다는 실험 결과가 이어진다. 메모리 용량이 조금 늘었을 뿐인데 시스템 성능이 훨씬 큰 폭으로 뛰어오르는 것이다. 메모리 병목이 풀릴 때 나타나는 전형적인 비선형 도약이다. 추론의 시대에 메모리가 주인공이 되는 것은 단순한 수사가 아니라, 이 계산에서 나오는 결론이다. 메모리 계층 구조의 전면 재편 주인공이 바뀌면 무대 자체도 다시 설계된다. 과거의 메모리 계층은 단순한 피라미드였다. 프로세서 내부의 SRAM 기반 L1, L2 캐시가 꼭대기에 있고, GPU 패키지 안의 HBM, 시스템 DRAM, 대용량 저장장치 SSD로 이어지는 구조였다. 프로세서에서 멀어질수록 용량은 커지고 가격은 낮아지지만 접근 속도는 느려진다. 이 구조가 30년간 반도체 시스템 설계의 기본 문법이었다. 그런데 추론이라는 새로운 대형 워크로드가 이 피라미드에 새로운 층을 끼워 넣기 시작했다. 가장 극적인 사례는 대용량 온칩 SRAM을 활용한 추론 가속기의 등장이다. SRAM 자체는 오래된 기술이지만 원리상 DRAM보다 훨씬 빠르다. 다만 DRAM에 비해 집적도를 높이기 어렵고 비트당 제조 비용이 압도적으로 비싸, 대용량 탑재는 오랫동안 비현실적이라 여겨졌다. SRAM은 그래서 프로세서의 캐시라는 제한된 역할에 머물러 있었다. 그런데 최근 이 상식에 정면으로 도전한 아키텍처가 등장했다. 수백 MB 규모의 대용량 SRAM을 주요 데이터 저장 공간으로 삼고, 컴파일러가 데이터 이동과 연산 순서를 미리 계획하는 추론 전용 프로세서가 그것이다. 용량은 HBM에 비할 수 없이 작지만, 메모리 대역폭이 특히 중요한 디코드 단계에서는 이 ‘작지만 압도적으로 빠른 메모리’가 승부를 가른다. GPU가 프리필과 어텐션을 맡고 이 전용 가속기가 디코드의 상당 부분을 담당하는 분업 구조가 실제로 만들어지고 있다. 엔비디아가 2025년 12월 그록(Groq)과 추론 기술에 관한 비독점 라이선스 계약을 맺은 것도 이 흐름의 일환이다. 엔비디아는 이후 그록의 기술을 활용한 LPU와 랙 시스템을 공개하고, 이를 자사의 베라 루빈(Vera Rubin) 플랫폼과 결합했다. 성격이 다른 가속기를 조합해 워크로드를 나누는 하이브리드 구조가 GPU 진영 안에서도 표준이 되어가고 있는 것이다. GPU의 HBM과 별도로 CPU 측에는 LPDDR5X 기반 SOCAMM 같은 대용량 저전력 메모리가 자리 잡는다. 엔비디아의 Vera CPU는 개별 CPU당 최대 1.5TB의 메모리를 지원하며, 256개 CPU로 구성된 랙 전체로는 최대 400TB에 이른다. 강화학습과 에이전트 워크로드에 필요한 대규모 작업 공간을 이 계층이 제공한다. 그리고 그 아래로 완전히 새로운 층이 삽입되고 있다. 플래시 메모리를 AI의 컨텍스트 저장소로 활용하는 움직임이다. 자주 쓰이는 최근 컨텍스트는 HBM에, 접근 빈도가 낮은 오래된 KV 캐시는 DRAM이나 낸드 플래시 기반 저장장치에 보관했다가 필요할 때만 꺼내 쓰는 ‘컨텍스트 메모리(context memory)’ 계층이다. 엔비디아의 ICMS(Inference Context Memory Storage)는 핫·콜드 분리를 통해 수십만 토큰 이상의 초장문 KV 캐시를 처리하는 방식을 제시한다. 이 수직 구조 재편을 한 문장으로 요약하면, ‘AI 전용 메모리의 시대’가 열렸다는 것이다. 오랫동안 하나의 표준 제품이 시장 전체를 관통하던 시절이 저물고 있다. 이제 메모리는 학습과 고성능 추론을 위한 HBM, 에이전트 AI와 강화학습을 뒷받침하는 저전력 대용량 메모리, 초저지연 디코드를 위한 온칩 SRAM, 그리고 장문 KV 캐시를 위한 플래시 기반 컨텍스트 메모리로 세분화되고 있다. 각 계층은 서로 다른 물성과 서로 다른 경제 논리를 갖는다. 메모리 계층이 분화된다고 해서 HBM의 중요성이나 절대 수요가 줄어드는 것은 아니다. HBM4는 입출력 통로가 이전 세대의 두 배인 2,048개로 늘었고, 단일 스택 대역폭도 최대 3.3TB/s 수준까지 올라왔다. AI 가속기 한 대에 탑재되는 HBM 용량과 데이터센터에 설치되는 가속기 수가 함께 늘어난다면 HBM 수요는 계속 확대될 것이다. 달라지는 것은 HBM의 필요성이 아니라, HBM만으로 AI 시스템의 모든 메모리 수요를 감당할 수 없게 되었다는 사실이다. 효율화가 수요를 죽인다는 착각: 제번스의 역설 메모리 시대를 둘러싼 가장 집요한 오해는 ‘효율화 공포’다. 새로운 메모리 압축이나 가속 알고리즘이 발표될 때마다 대형 메모리 제조사의 주가가 출렁였다. 이 공포의 논리는 단순하다. 데이터를 압축하면 메모리를 덜 쓸 것이고, 결국 수요가 줄어들지 않겠느냐는 것이다. 구글 리서치의 터보퀀트(TurboQuant)가 좋은 사례다. KV 캐시를 낮은 비트 수로 양자화해 메모리 사용량과 데이터 이동을 줄이는 기술이다. 구글은 일부 장문 문맥 실험에서 모델 성능을 유지하면서 KV 캐시 크기를 6분의 1 수준까지 줄였다고 밝혔다. 더 적은 메모리로 같은 성능을 낼 수 있으니 메모리 수요는 감소할 것이라는 예측이 자연스럽게 뒤따랐다. 그러나 효율 향상이 곧바로 수요 감소로 이어진다고 단정할 수는 없다. 19세기 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)가 석탄을 관찰하며 발견한 ‘제번스의 역설’을 되새겨볼 필요가 있다. 효율이 높아지면 자원의 단위 사용량은 줄어들지만, 새로운 수요가 폭발하며 전체 소비량은 오히려 늘어난다는 개념이다. AI 추론 시장에서도 정확히 같은 반동이 나타나고 있다. KV 캐시 압축으로 토큰당 비용이 크게 낮아지면, 그전까지 경제성이 없던 수많은 서비스가 한꺼번에 활성화된다. 실시간 코딩 어시스턴트, 수백만 토큰의 초장문 컨텍스트를 상주시키는 개인화 에이전트, 수십 개의 에이전트가 서로 통신하며 협업하는 멀티 에이전트 시스템이 모두 여기에 해당한다. 절약된 메모리는 아껴지는 대신 더 많은 에이전트와 더 긴 문맥으로 즉시 채워진다. 토큰 한 개를 처리하는 데 필요한 메모리는 줄더라도, 전체 토큰 처리량과 동시 사용자 수가 더 빠르게 늘어나면 총 메모리 수요는 오히려 커진다. 이 대목에서 ‘메모리 시장 규모는 GPU 판매량에 비례한다’는 기존 공식은 더 이상 유효하지 않게 된다. 메모리 계층이 HBM, DRAM, SRAM, 낸드 플래시로 다층화되고 각 계층이 저마다의 수요 곡선을 우상향으로 그리기 시작하면서, 시장의 규모와 성격을 GPU 판매량 하나로 설명하기 어려워졌다. 효율화 기술은 메모리 수요를 죽이는 것이 아니라, 그 형태를 바꾸며 총량을 오히려 키우고 있다. 한국 메모리 업계의 진짜 과제 여기까지가 메모리 중심 AI 반도체 시대의 기회 서사라면, 이제 잠깐 환호에서 벗어나 냉정한 질문을 던질 차례다. 세계 메모리 시장의 정점에 선 한국은 이 전환기 슈퍼사이클 속에서 무엇을 준비해야 하는가. 결론부터 말하면, 지금 올리고 있는 사상 최대 실적은 축배인 동시에 경보음으로 읽어야 한다. 현재의 호황이 미래의 지위를 자동으로 보장하지는 않기 때문이다. 오히려 지금의 높은 수익을 다음 기술 전환에 재투자하지 못한다면, 가장 유리한 시기에 가장 유리한 자리를 놓칠 수 있다. 첫째, ‘용량 공급자’에서 ‘솔루션 설계자’로의 전환이 필요하다. 지금까지 한국 메모리 산업의 경쟁력은 소품종 대량 생산, 즉 표준화된 고품질 제품을 낮은 비용으로 대량 생산하는 능력에 있었다. 그러나 메모리 시장은 공급자 주도의 소품종 대량 생산에서 고객 주문에 맞춘 다품종 생산으로 구조가 바뀌고 있다. AI 메모리는 고객 시스템과 가속기 구조에 따라 요구 조건이 달라지기 때문이다. 용량과 속도만이 아니라 로직 다이, 패키징, 전력 관리, 인터페이스까지 함께 조정해야 한다. HBM4부터는 입출력 통로가 2,048개로 늘어나고 베이스 다이와 패키지의 역할이 커지면서 고객 맞춤형 설계의 여지가 확대됐다. 이와 함께 고객사 가속기와 워크로드에 맞춰 베이스 다이의 인터페이스와 기능, 시스템 구조를 최적화하는 커스텀 HBM(cHBM)이 중요한 개발 방향으로 떠오르고 있다. 흥미롭게도 이 변화는 국내 두 메모리 기업에 서로 다른 전략을 요구한다. 메모리, 파운드리, 패키징을 모두 보유한 삼성전자 같은 종합 반도체 기업은 고객이 원하는 로직 다이와 메모리를 통합해 제공하는 턴키 역량을 강화할 수 있다. 반면 파운드리와 주요 고객사 동맹을 축으로 삼는 SK하이닉스는 생태계 경쟁력을 높이는 전략을 취할 수 있다. 어느 경로를 택하든 공통된 과제는 하나다. 단순 DRAM 셀 공급자의 자리에서 벗어나야 한다. AI 가속기 설계 단계부터 고객과 협력하고, 메모리 컨트롤러와 펌웨어, 패키징, 열 관리, 소프트웨어 최적화까지 이해해야 한다. 그렇지 않으면 한국 메모리 기업은 시스템의 핵심 설계자가 아니라 가격 협상에 취약한 부품 공급자로 남게 된다. 둘째, 새로운 메모리 계층에 필요한 제조 역량을 확보해야 한다. 이것이 가장 불편한 진실이다. SRAM 중심 추론 가속기는 DRAM 공정이 아니라 첨단 로직 반도체 공정에서 생산된다. SRAM 기반 추론 메모리 시장은 DRAM 양산 경쟁력만으로는 진입할 수 없는, 시스템 반도체 제조 역량의 영역이다. 반면 플래시 기반 컨텍스트 메모리 계층은 낸드 기술력과 시스템 레벨 설계 역량을 동시에 요구한다. 그동안 DRAM에 가려 상대적으로 저평가되던 낸드가 독립적인 성장 곡선을 그릴 여지가 여기서 열린다. 메모리 계층이 다변화될수록, 한국이 각 계층에 걸쳐 있는 서로 다른 제조 역량을 얼마나 넓게 확보하고 있는가가 시장 지배력의 지속을 판가름한다. 어제의 지배력이 내일의 지배력을 자동으로 보장하지 않는, 역량의 재정의가 요구되는 국면이다. 셋째, 중국의 추격을 과소평가하지 말아야 한다. 중국은 이미 범용 메모리에서 전 세계 시장에 가격 교란을 일으킬 수 있는 능력을 입증했다. 미국의 제재에도 불구하고 CXMT 같은 중국 DRAM 제조사는 2026년 말 HBM3 양산을 목표로 투자를 진행하며 독자적 밸류체인을 구축하고 있다. 현재 슈퍼사이클의 핵심인 범용 메모리에서 벌어들인 이익을 다음 계층의 기술 전환에 재투자하지 못하면, 초격차는 생각보다 빠르게 좁혀진다. 여기에 사이클의 성격 변화라는 과제가 겹친다. 과거 메모리 산업은 PC와 스마트폰 등 범용 제품의 수요·공급에 따라 비교적 비슷한 주기로 움직였다. 제품이 표준화돼 있었기 때문에 재고와 설비투자, 가격의 관계도 단순했다. 그러나 AI 메모리 시장에서는 HBM, 서버 DRAM, SOCAMM, 낸드 플래시가 서로 다른 고객과 제품 주기를 가지면서 복합 사이클 구조로 바뀌고 있다. HBM은 적층 수가 늘어날수록 본딩과 열 관리, 테스트의 난도가 높아져 안정적 수율 확보가 어렵다. 한 세대의 공급과 고객 인증이 안정화될 무렵에는 이미 다음 세대의 개발과 투자가 병행되어야 한다. 경쟁사 진입으로 기존 제품 프리미엄이 낮아질 때쯤 더 높은 성능과 가격의 다음 세대가 등장하는 구조다. 메모리 산업 전체를 더 이상 하나의 사이클로 설명할 수 없다. 기업은 시장을 세그먼트별로 나눠 상관관계를 추적하고, 각각의 기회가 열리는 짧은 시기에 재투자 결정을 내려야 한다. 이런 판단 능력 자체가 새로운 경영 역량이 되고 있다. 이 세 과제를 관통하는 방향은 분명하다. 효율화 기술과 경쟁할 것이 아니라, 효율화 기술과 함께 발전하는 메모리를 만들어야 한다. 압축된 데이터를 초고속으로 쏟아붓는 대역폭 중심 메모리, 계층 간 데이터를 지능적으로 오케스트레이션하는 컨텍스트 메모리, 그리고 이 모두를 AI 시스템 아키텍처에 맞춰 통합 공급하는 ‘종합 메모리 솔루션 기업’으로 포지셔닝해야 한다. 메모리를 파는 회사가 아니라, 메모리 계층 전체를 설계하는 기업이 되어야 한다. 메모리 중심 AI 시대가 한국 반도체 산업에 던지는 요구다. 기억을 다루는 자가 지능의 시대를 연다 한 걸음 물러서면, 이 모든 기술 논쟁의 밑바닥에는 놀랍도록 단순한 질문이 놓여 있다. AI의 성능은 결국 무엇을 기억하고, 무엇을 버리며, 필요한 맥락을 얼마나 빠르게 불러올 수 있는가에 좌우된다. AI가 KV 캐시를 어떻게 압축하고 어떤 문맥을 핫 계층에 둘지 결정하는 과정은, 인간이 자신의 경험을 정리하고 되새기는 방식과 놀라울 만큼 닮아 있다. 우리는 오랫동안 “어떻게 더 빠르게 계산할 것인가”를 물었지, “무엇을 어떻게 기억할 것인가”를 묻지 않았다. 기술이 고도화될수록 질문은 오히려 더 근본적인 곳으로 돌아온다. 메모리는 더 이상 정해진 규격과 가격에 따라 공급되는 범용 부품이 아니다. AI 시대의 전략물자이며, 지능이 흐르는 혈관이자 토큰의 통로이고 저장고다. 그리고 한국은 지금 AI의 혈관을 구성하는 핵심 산업에서 막강한 영향력을 발휘할 수 있는 자리에 서 있다. 문제는 이 자리를 ‘더 많이 찍어내는 자’로 지킬 것인가, 아니면 ‘지능의 기억 구조를 설계하는 자’로 도약할 것인가에 있다. 전자는 결국 추격당하는 자리이고, 후자는 새로운 시장의 규칙을 만드는 자리다. 메모리 중심의 AI 반도체 시대는 이미 시작됐다. 권석준 교수는 성균관대학교 화학공학부 교수이자 공과대학 부학장이다. 서울대학교 화학생물공학부를 졸업하고 미국 매사추세츠공과대학교(MIT)에서 화학공학 박사학위를 받았다. 차세대 반도체 소재와 공정 기술을 연구하며, 반도체 산업과 글로벌 공급망 전략에 관한 글과 강연을 이어가고 있다. 저서로 《반도체 삼국지》와 《차이나 반도체 라이징》 등이 있다.
2026.08.03 0 13
샌프란 AI 서밋, 숫자보다 중요한 것
오늘의 세줄 요약1.샌프란 AI 서밋에서 삼성전자·SK하이닉스는 9500억달러 규모의 장기 반도체 협력 기반을 마련했고, 엔비디아·오픈AI·앤트로픽 등은 연구소와 데이터센터, 테스트베드 등 한국 투자를 약속했습니다. 2.다만 상당수는 MOU·LOI 단계여서 '투자'와 '수주', '계획'과 '확정'을 구분해 볼 필요가 있습니다. 성패는 결국 생산능력과 본계약 체결에 달려 있습니다. 3.같은 시기 실리콘밸리에선 오픈AI·앤트로픽과 엔비디아·MS를 중심으로 '폐쇄형 AI 대 오픈 AI' 경쟁이 본격화하며 AI 산업의 새로운 주도권 싸움이 시작됐습니다. 식사자리에서 찾을 수 있던 우리측(?) 인사들의 모습입니다. 반대편에는 젠슨 황 엔비디아 CEO와 혹 탄 브로드컴 CEO 등이 앉아 있었어요. 이번 행사의성과들 이번 서밋의 성과는 두 겹으로 읽어야 합니다. 첫 번째는 메모리입니다. 삼성전자와 SK하이닉스가 미국 빅테크에 5년간 팔기로 한 반도체는 향후 5년 동안 9500억달러, 우리 돈 1393조원어치에요. 하지만 그 아래엔 다른 층이 깔려 있습니다. 이 거대한 수주를 지렛대 삼아 빅테크가 한국에 연구소와 데이터센터를 짓기 시작했다는 점입니다. 삼성전자와 브로드컴은 2000억달러(290조원) 규모로 손을 잡았습니다. 삼성의 HBM과 2나노 파운드리, 첨단 패키징을 하나로 묶어 브로드컴 칩에 공급하는 ‘원스톱’ 구조라고 밝혔는데요. AI 반도체의 무게중심이 엔비디아 GPU에서 빅테크 맞춤형 칩(ASIC)으로 옮겨가는 흐름에 삼성이 올라탄 셈입니다.TSMC가 독점하다시피 한 파운드리 시장. 칩이 필요한 빅테크 입장에서는 대안이 절실한 상황인 만큼 삼성에겐 기회가 될 수 있어요. HBM 고객을 넓혀 엔비디아 의존도를 낮추고 대형 고객의 2나노 물량을 안정적으로 뽑아내면 파운드리 수주의 발판이 될 수 있습니다. 메모리와 파운드리, 패키징을 묶어 파는 만큼 고객을 더 오래 붙잡아두는 효과도 있을 테고요. SK하이닉스도 크게 움직이고 있습니다. 엔비디아와 5000억달러(733조원) 규모로 차세대 HBM을 함께 개발하기로 했고 마이크로소프트 서버용 메모리 공급 등 2500억달러를 더해 총 7500억달러를 확보했습니다. SK텔레콤은 엔비디아 ‘베라 루빈’을 들여 2027년부터 최대 2기가와트(GW) AI 팩토리를 짓는데 여기에도 SK하이닉스 HBM4가 들어갑니다. 숫자의 크기보다 중요한 건 방향일 듯합니다. 빅테크가 삼성전자와 SK하이닉스의 5년치 물량을 미리 확보하려 줄을 섰다는 것인데요. 얼마 전까지 시장을 짓누르던 ‘반도체 피크론’, 즉 메모리 호황이 곧 꺾인다는 우려를 잠재울 수 있는 신호로 읽힙니다. 실제로 이번에 함께 짓기로 한 AI 데이터센터만 5GW에 달하는데 GPU로는 약 200만장 규모입니다. 그 설비를 채울 메모리가 곧 이 계약들인 거죠. 두 번째는 한국에 대한 ‘투자’입니다. 엔비디아는 핵심 연구진을 한국으로 옮겨 ‘AI 프런티어랩’과 KAIST 공동 연구소를 설립하기로 했습니다. 제품을 판매하는 것을 넘어 세계 최고 수준의 AI 연구 역량이 국내로 들어온다는 의미인데요. 엔비디아가 한국을 선택한 배경도 분명합니다. 젠슨 황 CEO는 지난해 서울을 방문한 뒤 현대차와 LG 등과 협력 가능성을 논의하며 한국 엔지니어와 연구 인력의 경쟁력을 확인했다고 합니다. 그는 “GPU 접근만 확보되면 한국은 자립적인 AI를 구축할 수 있다”고 평가했고요. 오픈AI는 조니 아이브와 함께 개발 중인 차세대 AI 기기를 내년 1분기 한국에서 처음 시험하기로 했습니다. 신제품을 가장 먼저 검증하는 시장으로 한국을 선택했다는 것은 앞으로 AI 기기 생태계가 구축되는 과정에서 국내 기업이 참여할 기회도 커질 수 있다는 의미입니다. 앤트로픽은 국내 데이터센터 투자 의지를 재확인하고 삼성SDS와 AI 엔지니어 양성에 나섰습니다. 브로드컴은 한국형 LLM에 최적화한 맞춤형 반도체를 지원하기로 했고요. 변화는 연구에만 그치지 않았습니다. AI가 실제 산업으로 연결되는 움직임도 이어졌습니다. 현대차그룹은 엔비디아와 로봇 개발·검증 플랫폼을 구축하고 웨이모와는 자율주행 협력을 추진하기로 했습니다. 네이버는 엔비디아, 브룩필드와 함께 기가와트급 AI 팩토리 구축에 나서기로 했고요. 두 흐름을 합치면 이번 서밋의 의미가 분명해집니다. 그동안 4700조원 규모의 ‘3대 메가 프로젝트’는 정부와 국내 기업이 주도하는 구상이었습니다. 이번에는 글로벌 빅테크가 연구소와 테스트베드, 데이터센터를 들고 합류하면서 한국의 계획이 글로벌 공동 프로젝트로 확장되기 시작했습니다. 메모리를 공급하는 나라에서 AI를 연구하고 검증하며 실제 산업에 적용하는 나라로 ‘발돋움’ 하겠다는 ‘의지’로 읽힙니다. 위 솔베이 회의 사진은 1927년 제5회 물리학회의 당시에 찍힌 사진입니다. 가운데 아인슈타인을 필두로 마리 퀴리, 닐스 보어, 슈뢰딩거 등 물리학사를 바꾼 최고 천재 29명이 한 자리에 모인 역사적인 사진인데요. 그만큼 의미있는 사진이에요. 이번 샌프란시스코 서밋을 두고도 솔베이 회의와 같다, 는 말이 나옵니다. 개인적으로는 위 사진은 그 어떤 유명한 사람들이 모인 사진과 비교할 수 없다는 생각을 합니다😅. 제가 대학을 다닐 때 위 사진을 연구실에 걸어둔 대학원생들도 꽤 많았던 기억이 나네요. [사진=위키] 성과를 조금냉정히 살펴보기 그런데 9500억달러라는 숫자가 혼자 걸어 다니면 오해를 부릅니다. 이번에 삼성전자와 SK하이닉스의 계약은 이른바 장기구매계약에 가깝습니다. ‘투자’보다는 ‘수주’가 맞는데요. 현장에서 ‘메가 동맹’과 같은 뜨거운 표현이 오가다 보면 이 방향이 흐려지기 쉽습니다. 물론 물건을 팔면 대금은 들어옵니다. 하지만 외부 자본이 한국에 베팅하는 ‘투자유치’와 한국이 무언가를 만들어 팔아 매출을 확보하는 ‘수주’는 다른 이야기입니다. 이 수주마저 아직 단단히 굳지는 않았습니다. SK와 엔비디아는 협력의향서(LOI), 삼성과 브로드컴은 업무협약(MOU) 단계에요. 각 기업은 이사회 의결과 공시가 남아있습니다. 또한 이번에 발표한 9500억 달러 가운데 2500억 달러는 공개 준비가 안 됐다는 이유로 비공개로 남았습니다. 앤트로픽의 데이터센터 투자 역시 “인허가가 확정되면 2GW, 3GW도 할 수 있는 분위기”였다는 관계자의 말처럼 ‘확정’이 아닌 ‘생각’이나 ‘의지’를 보였을 뿐입니다. 엔비디아가 연구원을 몇 명이나 보낼지도 아직 숫자로 나오지 않았고요. 방향은 섰지만 규모는 여백입니다. 삼성과 브로드컴의 논의도 마찬가지예요. 실제 결과는 고객의 인증과 2나노의 수율, 패키징 양산 능력, 그리고 고객사의 ‘최종주문’에 달려 있습니다. 삼성이 브로드컴의 2나노 물량을 안정적으로 뽑아내지 못하면 2000억 달러 약속도 종잇장이 될 수 있어요. 삼성 파운드리는 아직 대형 고객의 최선단 물량을 대량 양산해 실력을 입증한 단계가 아니거든요. 선주문은 생산이 뒷받침될 때 비로소 매출이 되니까요. 물론 그렇다고 허상이라는 얘기는 아닙니다. 성격을 구분하자는 거죠. 수요 자체가 가짜라는 뜻도 아닙니다. 최태원 SK그룹 회장은 “규모가 커 생소해 보여도 실제 수요에 기반한 현실적 계획”이라고 했습니다. 브로드컴의 2분기 AI 반도체 매출은 1년 새 143% 뛰었고, 혹 탄 브로드컴 CEO는 삼성·하이닉스를 ‘주된 고객’이라 부르며 지원을 당부했고요. 수요는 진짜입니다. 다만 진짜 수요와 확정된 계약은 층위가 다른 문제입니다. 선주문이 아무리 쌓여도 만들어 팔지 못하면 장부에 남는 건 없으니까요. 정부 일각에선 이날을 1927년 솔베이 회의의 ‘AI 버전’이라 자평했습니다. 세계 최고 두뇌가 한자리에 모였다는 자부심이겠죠. 하지만 솔베이가 역사에 남은 건 그 자리에서 나온 이론이 실제로 세상을 바꿨기 때문입니다. 지금의 숫자들도 그런 평가를 받으려면 선주문이 매출로 또 MOU가 본계약으로 굳는 시간을 통과해야 합니다. 박수를 보내되, 계산서는 5년 뒤에 정산된다는 걸 기억해둘 필요가 있습니다. 젠슨 황과 샘 올트먼의 대립을 그려보고 싶었는데 저작권 등의 문제로 쉽지 않네요. [사진=메타AI] 서밋 벌어진 사이갈라진 빅테크 진영 서밋이 열린 금요일, 실리콘밸리는 정반대 풍경을 그리고 있었습니다. 젠슨 황은 낮엔 한국의 AI 서밋에서 ‘황금시대’를 외쳤는데 같은 날 자신의 X 계정에 생애 첫 글을 올렸거든요. “세상엔 프론티어 폐쇄 모델도, 프론티어 오픈 모델도 모두 필요하다.” 9분 뒤 사티아 나델라 마이크로소프트 CEO가 “오픈소스는 건강한 AI 생태계의 필수 요소”라고 받았습니다. 한국을 축하하던 그 하루, 미국 AI 업계는 두 쪽으로 갈라지고 있었습니다. 전선은 ‘오픈이냐 폐쇄냐’입니다. 한쪽엔 앤트로픽과 오픈AI가 섰습니다. 일부 모델은 너무 위험해 아무나 열어보게 두면 안 되고 자신들 같은 기업이 안전하게 통제해야 한다는 논리입니다. 실제로 이들은 워싱턴을 상대로 중국산 오픈소스 모델을 규제해달라고 물밑에서 움직여 왔는데요. 명분은 안보와 지식재산권입니다. 중국 기업들이 미국 모델을 몰래 베끼는 ‘증류’로 성능을 끌어올렸다는 거죠. 앤트로픽 정책 책임자는 이를 “IP 절도이자 산업 스파이 행위”라고 지적합니다. 오픈AI의 태도는 조금 이중적인데요. 겉으론 오픈소스를 지지한다면서, 뒤로는 규제를 요청해 왔거든요. 신규 모델 일부를 정부 기관의 의무 보안 검증에 부치자는 게 이들이 내놓은 정책안입니다. 반대편엔 나머지 대부분이 섰습니다. 엔비디아, 마이크로소프트, 메타, 그리고 ‘리틀테크’를 자처한 스타트업 200여 곳입니다. 오픈소스가 지식을 나눠 기술을 빠르게 키우고 보안 검증도 여럿이 함께 하게 만든다는 논리입니다. 물론 속내도 있습니다. 엔비디아와 MS는 오픈 모델이 퍼져야 칩과 클라우드 수요가 늘고 스타트업들은 오픈소스가 막히면 앤트로픽·오픈AI의 독주가 굳어진다고 걱정하거든요. 물론 가격도 영향을 미쳤고요. 싸움에 불을 붙인 건 중국입니다. 지난해 딥시크가 미국 모델에 맞먹는 오픈소스 AI를 공짜로 풀어 업계를 흔들었고 최근엔 Z.ai와 문샷이 뒤를 이었습니다. 시진핑 주석은 이달 연설에서 중국을 ‘AI 개방의 챔피언’으로 내세웠고요. 값싸고 강력한 중국 오픈 모델이 세계 고객을 빨아들이자 앞서 있다던 미국 기업들의 자부심에 금이 가기 시작한 겁니다. 발등에 불이 떨어진 앤트로픽은 값으로 맞불을 놨습니다. 금요일 공개한 신모델을 두고 ‘프론티어급 성능을 절반 가격에’라고 내세우면서요. 중국의 저가 공세에 미국 선두마저 가격표를 다시 쓰기 시작한 셈입니다. 워싱턴도 끌려 들어왔습니다. 스콧 베선트 재무장관은 “오픈소스가 미국 IP를 마음껏 털어도 되는 사냥철은 아니다”라며 제재 가능성을 꺼냈습니다. 같은 주에 터진 사건 하나가 이 대립의 온도를 그대로 보여줬습니다. 오픈AI는 자사 최신 모델 일부가 보안 테스트 도중 통제를 벗어나 인터넷에 접속하고 오픈소스 저장소 허깅페이스의 서버를 해킹했다고 공개했습니다. “폐쇄 환경에서도 이렇게 위험하니 규제가 필요하다”는 근거로 든 거죠. 그런데 정작 허깅페이스는 그 공격을 막는 데 중국의 오픈 모델을 썼습니다. 이 회사 CEO는 주말에 오픈소스 지지 행진까지 예고하며 ‘오픈 모델의 승리를’이라는 말을 남기기도 합니다. ※ 제목을 누르면 상세 내용으로 연결됩니다. AI가 AI 잡는다…MS “2년 뒤엔 해커보다 방어자가 유리”마이크로소프트(MS)가 첫 자체 보안 특화 AI 모델과 AI 에이전트 플랫폼을 공개하며 “AI가 AI를 막는 시대”를 선언했습니다. 새 모델은 오픈AI와 앤트로픽 경쟁 모델보다 높은 성능을 내면서도 비용은 절반 수준으로 낮췄는데요. 여기에 레드팀·블루팀·그린팀 역할을 맡은 AI 에이전트들이 공격 탐지부터 분석, 복구까지 협업하는 플랫폼도 함께 선보였습니다. 지금은 AI 덕분에 공격자가 유리해 보이지만, 2년 정도 지나면 오히려 방어자가 더 강해질 것이라는 전망도 했습니다. AI가 사이버 전쟁의 판도를 뒤집을 수 있을까요? AI 안 달렸는데 1위…애플의 역설애플이 엔비디아를 제치고 다시 세계 시가총액 1위에 올랐습니다. 투자자들이 AI 경쟁에 막대한 돈을 쏟아붓는 기업보다, 비용을 아끼며 수익성을 지키는 애플의 전략에 더 높은 점수를 준 것인데요. 자체 데이터센터 대신 외부 AI 인프라를 활용해 투자 부담을 줄인 점이 특히 주목받았습니다. AI 시대에도 결국 중요한 건 ‘얼마나 많이 투자했느냐’가 아니라 ‘얼마나 효율적으로 돈을 버느냐’라는 평가가 나옵니다. 칩도 주고 돈도 댄다... 엔비디아의 AI 동맹 키우기엔비디아가 오픈AI 공동창업자 일리야 수츠케버의 스타트업 SSI에 50억달러를 투자하며 차세대 AI 생태계 선점에 나섰습니다. SSI는 투자와 함께 차세대 AI 칩 ‘베라 루빈’을 우선 공급받게 되는데요. 엔비디아는 유망 AI 기업에 투자한 뒤 최신 반도체까지 제공하는 방식으로 영향력을 넓히고 있습니다. 오픈AI 데이터센터에는 수천억달러 규모의 금융 지원까지 검토하는 등 AI 인프라의 ‘후원자’ 역할도 강화하고 있습니다.
2026.08.03 0 10
연산의 시대에서 기억의 시대로
AI의 성능을 결정하는 것은 정말 GPU의 연산 능력뿐일까? 생성형 AI의 중심이 학습에서 추론으로 이동하면서, 메모리의 용량과 속도, 데이터 이동 방식이 새로운 병목으로 떠오르고 있다. 메모리 강국인 한국에는 큰 기회지만, 이제는 더 많이 만드는 것을 넘어 AI의 기억 구조를 설계해야 한다. 권석준 | 성균관대학교 공과대학 부학장 2026년 7월 24일 지난 30여 년간 반도체 산업의 혁신은 언제나 데이터를 계산하는 프로세서(CPU·GPU)를 중심으로 설명돼 왔다. 반도체에 집적되는 트랜지스터 수가 약 2년마다 두 배로 증가한다는 무어의 법칙(Moore’s Law)은 하나의 칩에 더 많은 트랜지스터를 집적해 프로세서 성능을 지속적으로 높여온 반도체 산업의 상징이었다. 최근 AI 시대를 이끈 GPU 역시 대규모 행렬 연산과 같은 AI 계산을 빠르게 처리하도록 설계된 프로세서다. 그동안 반도체 산업은 “얼마나 빠르게 계산할 수 있는가”를 중심으로 발전해 왔다. 반면 계산에 필요한 데이터를 임시 저장하고 프로세서로 전달하는 역할을 맡은 메모리는 오랫동안 프로세서를 뒷받침하는 조연에 머물러 있었다. 프로세서가 필요한 데이터를 얼마나 빠르게 받아올 수 있는지보다 프로세서 자체의 연산 성능이 더 중요한 경쟁력으로 여겨졌기 때문이다. 하지만 AI 시대에는 상황이 달라졌다. 특히 2025년 이후 AI 산업의 중심이 모델을 학습시키는 단계(training)에서 실제 서비스를 제공하는 단계인 추론(inference)으로 이동하면서 반도체의 경쟁력도 새로운 기준으로 평가되기 시작했다. AI 서비스의 경쟁력은 단순히 모델의 성능이 아니라 같은 비용과 전력으로 얼마나 많은 토큰(Token)을 빠르게 처리할 수 있는지에 의해 결정되기 시작했다. 그러자 프로세서의 계산 능력만큼이나 메모리가 데이터를 얼마나 빠르게 공급할 수 있는지가 핵심 경쟁력으로 떠올랐다. 이처럼 AI가 같은 비용과 전력으로 얼마나 많은 토큰을 처리할 수 있는지를 따지는 ‘토큰 경제학(Token Economics)’ 시대가 열리면서 메모리는 더 이상 프로세서를 뒷받침하는 조연이 아니라 AI 반도체 경쟁력을 좌우하는 핵심 기술로 부상하고 있다. 추론은 왜 메모리 게임으로 변모하고 있는가 이 전환을 이해하려면 먼저 학습과 추론이 근본적으로 다른 작업이라는 점부터 짚어야 한다. 오랫동안 우리는 두 과정을 뭉뚱그려 ‘AI 연산’이라고 불러왔다. 그러나 하드웨어의 관점에서 이 둘은 정반대의 성격을 갖는다. 대형언어모델(LLM)의 추론은 크게 두 단계로 나뉜다. 먼저 입력 프롬프트 전체를 한꺼번에 소화하는 프리필(prefill)이 있고, 그다음 모델이 답변을 한 토큰씩 순차적으로 뱉어내는 디코드(decode)가 뒤따른다. 프리필은 수백억, 수천억 개의 신경망 파라미터를 동시에 참조하는 거대한 행렬 연산이다. GPU가 가장 잘하는 대규모 병렬 처리가 마음껏 발휘되는 영역이다. 반면 디코드는 성격이 완전히 다르다. 모델은 새로운 토큰을 생성할 때마다 이전 토큰의 키와 값이 저장된 KV 캐시(KV cache)를 반복해서 읽어야 한다. 연산량 자체는 프리필보다 적지만, 모델 가중치와 KV 캐시를 메모리에서 끊임없이 가져오는 과정 때문에 메모리 대역폭의 지배를 받는다. 일반 사용자가 생성형 AI를 쓸 때 첫 답변이 나오기까지 걸리는 시간은 프리필의 영향을 받는다. 이후 답변이 얼마나 부드럽게 이어지는지는 디코드가 결정한다. 즉 사용자가 체감하는 속도의 대부분은 디코드에서 나오고, 디코드의 성능은 메모리에서 나온다. 루프라인(roofline) 모델은 이 구조를 명확히 보여준다. 디코드 과정에서는 연산 장치가 계산을 끝내고도 다음 데이터가 도착하기를 기다리는 상황이 반복된다. 연산 능력이 남아도는 것이 아니라, 메모리 대역폭이 부족한 것이다. 튜링상 수상자 데이비드 패터슨(David A. Patterson) UC버클리 교수도 최근 LLM 추론의 진짜 병목이 연산이 아니라 메모리와 인터커넥트에 있다고 지적했다. 토큰 경제학의 핵심도 여기에 있다. 100만 개의 토큰을 얼마의 비용과 에너지로 얼마나 빠르게 처리할 수 있는지는 프로세서 성능만으로 설명되지 않는다. 메모리 대역폭과 용량, 데이터 이동 비용이 함께 계산되어야 한다. 대표적인 병목은 고대역폭 메모리(HBM)의 용량과 대역폭 한계다. 문맥이 길어지고 동시 사용자가 많아질수록 KV 캐시는 빠르게 커진다. GPU에 탑재된 HBM 용량을 넘어서는 순간 시스템은 일부 데이터를 시스템 메모리나 저장장치로 옮기거나, 압축하거나, 오래된 정보를 버려야 한다. 어느 방법을 선택하든 지연이 발생한다. 이 비선형성이 지금 추론 인프라의 진짜 과제다. 최근에는 HBM에 고대역폭 플래시를 결합해 메모리 용량을 확장하고 추론 처리량과 전력 효율을 함께 끌어올리려는 연구가 진행되고 있다. 메모리 용량의 한계를 완화했을 때 동시에 처리할 수 있는 요청 수가 크게 늘어난다는 실험 결과가 이어진다. 메모리 용량이 조금 늘었을 뿐인데 시스템 성능이 훨씬 큰 폭으로 뛰어오르는 것이다. 메모리 병목이 풀릴 때 나타나는 전형적인 비선형 도약이다. 추론의 시대에 메모리가 주인공이 되는 것은 단순한 수사가 아니라, 이 계산에서 나오는 결론이다. 메모리 계층 구조의 전면 재편 주인공이 바뀌면 무대 자체도 다시 설계된다. 과거의 메모리 계층은 단순한 피라미드였다. 프로세서 내부의 SRAM 기반 L1, L2 캐시가 꼭대기에 있고, GPU 패키지 안의 HBM, 시스템 DRAM, 대용량 저장장치 SSD로 이어지는 구조였다. 프로세서에서 멀어질수록 용량은 커지고 가격은 낮아지지만 접근 속도는 느려진다. 이 구조가 30년간 반도체 시스템 설계의 기본 문법이었다. 그런데 추론이라는 새로운 대형 워크로드가 이 피라미드에 새로운 층을 끼워 넣기 시작했다. 가장 극적인 사례는 대용량 온칩 SRAM을 활용한 추론 가속기의 등장이다. SRAM 자체는 오래된 기술이지만 원리상 DRAM보다 훨씬 빠르다. 다만 DRAM에 비해 집적도를 높이기 어렵고 비트당 제조 비용이 압도적으로 비싸, 대용량 탑재는 오랫동안 비현실적이라 여겨졌다. SRAM은 그래서 프로세서의 캐시라는 제한된 역할에 머물러 있었다. 그런데 최근 이 상식에 정면으로 도전한 아키텍처가 등장했다. 수백 MB 규모의 대용량 SRAM을 주요 데이터 저장 공간으로 삼고, 컴파일러가 데이터 이동과 연산 순서를 미리 계획하는 추론 전용 프로세서가 그것이다. 용량은 HBM에 비할 수 없이 작지만, 메모리 대역폭이 특히 중요한 디코드 단계에서는 이 ‘작지만 압도적으로 빠른 메모리’가 승부를 가른다. GPU가 프리필과 어텐션을 맡고 이 전용 가속기가 디코드의 상당 부분을 담당하는 분업 구조가 실제로 만들어지고 있다. 엔비디아가 2025년 12월 그록(Groq)과 추론 기술에 관한 비독점 라이선스 계약을 맺은 것도 이 흐름의 일환이다. 엔비디아는 이후 그록의 기술을 활용한 LPU와 랙 시스템을 공개하고, 이를 자사의 베라 루빈(Vera Rubin) 플랫폼과 결합했다. 성격이 다른 가속기를 조합해 워크로드를 나누는 하이브리드 구조가 GPU 진영 안에서도 표준이 되어가고 있는 것이다. GPU의 HBM과 별도로 CPU 측에는 LPDDR5X 기반 SOCAMM 같은 대용량 저전력 메모리가 자리 잡는다. 엔비디아의 Vera CPU는 개별 CPU당 최대 1.5TB의 메모리를 지원하며, 256개 CPU로 구성된 랙 전체로는 최대 400TB에 이른다. 강화학습과 에이전트 워크로드에 필요한 대규모 작업 공간을 이 계층이 제공한다. 그리고 그 아래로 완전히 새로운 층이 삽입되고 있다. 플래시 메모리를 AI의 컨텍스트 저장소로 활용하는 움직임이다. 자주 쓰이는 최근 컨텍스트는 HBM에, 접근 빈도가 낮은 오래된 KV 캐시는 DRAM이나 낸드 플래시 기반 저장장치에 보관했다가 필요할 때만 꺼내 쓰는 ‘컨텍스트 메모리(context memory)’ 계층이다. 엔비디아의 ICMS(Inference Context Memory Storage)는 핫·콜드 분리를 통해 수십만 토큰 이상의 초장문 KV 캐시를 처리하는 방식을 제시한다. 이 수직 구조 재편을 한 문장으로 요약하면, ‘AI 전용 메모리의 시대’가 열렸다는 것이다. 오랫동안 하나의 표준 제품이 시장 전체를 관통하던 시절이 저물고 있다. 이제 메모리는 학습과 고성능 추론을 위한 HBM, 에이전트 AI와 강화학습을 뒷받침하는 저전력 대용량 메모리, 초저지연 디코드를 위한 온칩 SRAM, 그리고 장문 KV 캐시를 위한 플래시 기반 컨텍스트 메모리로 세분화되고 있다. 각 계층은 서로 다른 물성과 서로 다른 경제 논리를 갖는다. 메모리 계층이 분화된다고 해서 HBM의 중요성이나 절대 수요가 줄어드는 것은 아니다. HBM4는 입출력 통로가 이전 세대의 두 배인 2,048개로 늘었고, 단일 스택 대역폭도 최대 3.3TB/s 수준까지 올라왔다. AI 가속기 한 대에 탑재되는 HBM 용량과 데이터센터에 설치되는 가속기 수가 함께 늘어난다면 HBM 수요는 계속 확대될 것이다. 달라지는 것은 HBM의 필요성이 아니라, HBM만으로 AI 시스템의 모든 메모리 수요를 감당할 수 없게 되었다는 사실이다. 효율화가 수요를 죽인다는 착각: 제번스의 역설 메모리 시대를 둘러싼 가장 집요한 오해는 ‘효율화 공포’다. 새로운 메모리 압축이나 가속 알고리즘이 발표될 때마다 대형 메모리 제조사의 주가가 출렁였다. 이 공포의 논리는 단순하다. 데이터를 압축하면 메모리를 덜 쓸 것이고, 결국 수요가 줄어들지 않겠느냐는 것이다. 구글 리서치의 터보퀀트(TurboQuant)가 좋은 사례다. KV 캐시를 낮은 비트 수로 양자화해 메모리 사용량과 데이터 이동을 줄이는 기술이다. 구글은 일부 장문 문맥 실험에서 모델 성능을 유지하면서 KV 캐시 크기를 6분의 1 수준까지 줄였다고 밝혔다. 더 적은 메모리로 같은 성능을 낼 수 있으니 메모리 수요는 감소할 것이라는 예측이 자연스럽게 뒤따랐다. 그러나 효율 향상이 곧바로 수요 감소로 이어진다고 단정할 수는 없다. 19세기 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)가 석탄을 관찰하며 발견한 ‘제번스의 역설’을 되새겨볼 필요가 있다. 효율이 높아지면 자원의 단위 사용량은 줄어들지만, 새로운 수요가 폭발하며 전체 소비량은 오히려 늘어난다는 개념이다. AI 추론 시장에서도 정확히 같은 반동이 나타나고 있다. KV 캐시 압축으로 토큰당 비용이 크게 낮아지면, 그전까지 경제성이 없던 수많은 서비스가 한꺼번에 활성화된다. 실시간 코딩 어시스턴트, 수백만 토큰의 초장문 컨텍스트를 상주시키는 개인화 에이전트, 수십 개의 에이전트가 서로 통신하며 협업하는 멀티 에이전트 시스템이 모두 여기에 해당한다. 절약된 메모리는 아껴지는 대신 더 많은 에이전트와 더 긴 문맥으로 즉시 채워진다. 토큰 한 개를 처리하는 데 필요한 메모리는 줄더라도, 전체 토큰 처리량과 동시 사용자 수가 더 빠르게 늘어나면 총 메모리 수요는 오히려 커진다. 이 대목에서 ‘메모리 시장 규모는 GPU 판매량에 비례한다’는 기존 공식은 더 이상 유효하지 않게 된다. 메모리 계층이 HBM, DRAM, SRAM, 낸드 플래시로 다층화되고 각 계층이 저마다의 수요 곡선을 우상향으로 그리기 시작하면서, 시장의 규모와 성격을 GPU 판매량 하나로 설명하기 어려워졌다. 효율화 기술은 메모리 수요를 죽이는 것이 아니라, 그 형태를 바꾸며 총량을 오히려 키우고 있다. 한국 메모리 업계의 진짜 과제 여기까지가 메모리 중심 AI 반도체 시대의 기회 서사라면, 이제 잠깐 환호에서 벗어나 냉정한 질문을 던질 차례다. 세계 메모리 시장의 정점에 선 한국은 이 전환기 슈퍼사이클 속에서 무엇을 준비해야 하는가. 결론부터 말하면, 지금 올리고 있는 사상 최대 실적은 축배인 동시에 경보음으로 읽어야 한다. 현재의 호황이 미래의 지위를 자동으로 보장하지는 않기 때문이다. 오히려 지금의 높은 수익을 다음 기술 전환에 재투자하지 못한다면, 가장 유리한 시기에 가장 유리한 자리를 놓칠 수 있다. 첫째, ‘용량 공급자’에서 ‘솔루션 설계자’로의 전환이 필요하다. 지금까지 한국 메모리 산업의 경쟁력은 소품종 대량 생산, 즉 표준화된 고품질 제품을 낮은 비용으로 대량 생산하는 능력에 있었다. 그러나 메모리 시장은 공급자 주도의 소품종 대량 생산에서 고객 주문에 맞춘 다품종 생산으로 구조가 바뀌고 있다. AI 메모리는 고객 시스템과 가속기 구조에 따라 요구 조건이 달라지기 때문이다. 용량과 속도만이 아니라 로직 다이, 패키징, 전력 관리, 인터페이스까지 함께 조정해야 한다. HBM4부터는 입출력 통로가 2,048개로 늘어나고 베이스 다이와 패키지의 역할이 커지면서 고객 맞춤형 설계의 여지가 확대됐다. 이와 함께 고객사 가속기와 워크로드에 맞춰 베이스 다이의 인터페이스와 기능, 시스템 구조를 최적화하는 커스텀 HBM(cHBM)이 중요한 개발 방향으로 떠오르고 있다. 흥미롭게도 이 변화는 국내 두 메모리 기업에 서로 다른 전략을 요구한다. 메모리, 파운드리, 패키징을 모두 보유한 삼성전자 같은 종합 반도체 기업은 고객이 원하는 로직 다이와 메모리를 통합해 제공하는 턴키 역량을 강화할 수 있다. 반면 파운드리와 주요 고객사 동맹을 축으로 삼는 SK하이닉스는 생태계 경쟁력을 높이는 전략을 취할 수 있다. 어느 경로를 택하든 공통된 과제는 하나다. 단순 DRAM 셀 공급자의 자리에서 벗어나야 한다. AI 가속기 설계 단계부터 고객과 협력하고, 메모리 컨트롤러와 펌웨어, 패키징, 열 관리, 소프트웨어 최적화까지 이해해야 한다. 그렇지 않으면 한국 메모리 기업은 시스템의 핵심 설계자가 아니라 가격 협상에 취약한 부품 공급자로 남게 된다. 둘째, 새로운 메모리 계층에 필요한 제조 역량을 확보해야 한다. 이것이 가장 불편한 진실이다. SRAM 중심 추론 가속기는 DRAM 공정이 아니라 첨단 로직 반도체 공정에서 생산된다. SRAM 기반 추론 메모리 시장은 DRAM 양산 경쟁력만으로는 진입할 수 없는, 시스템 반도체 제조 역량의 영역이다. 반면 플래시 기반 컨텍스트 메모리 계층은 낸드 기술력과 시스템 레벨 설계 역량을 동시에 요구한다. 그동안 DRAM에 가려 상대적으로 저평가되던 낸드가 독립적인 성장 곡선을 그릴 여지가 여기서 열린다. 메모리 계층이 다변화될수록, 한국이 각 계층에 걸쳐 있는 서로 다른 제조 역량을 얼마나 넓게 확보하고 있는가가 시장 지배력의 지속을 판가름한다. 어제의 지배력이 내일의 지배력을 자동으로 보장하지 않는, 역량의 재정의가 요구되는 국면이다. 셋째, 중국의 추격을 과소평가하지 말아야 한다. 중국은 이미 범용 메모리에서 전 세계 시장에 가격 교란을 일으킬 수 있는 능력을 입증했다. 미국의 제재에도 불구하고 CXMT 같은 중국 DRAM 제조사는 2026년 말 HBM3 양산을 목표로 투자를 진행하며 독자적 밸류체인을 구축하고 있다. 현재 슈퍼사이클의 핵심인 범용 메모리에서 벌어들인 이익을 다음 계층의 기술 전환에 재투자하지 못하면, 초격차는 생각보다 빠르게 좁혀진다. 여기에 사이클의 성격 변화라는 과제가 겹친다. 과거 메모리 산업은 PC와 스마트폰 등 범용 제품의 수요·공급에 따라 비교적 비슷한 주기로 움직였다. 제품이 표준화돼 있었기 때문에 재고와 설비투자, 가격의 관계도 단순했다. 그러나 AI 메모리 시장에서는 HBM, 서버 DRAM, SOCAMM, 낸드 플래시가 서로 다른 고객과 제품 주기를 가지면서 복합 사이클 구조로 바뀌고 있다. HBM은 적층 수가 늘어날수록 본딩과 열 관리, 테스트의 난도가 높아져 안정적 수율 확보가 어렵다. 한 세대의 공급과 고객 인증이 안정화될 무렵에는 이미 다음 세대의 개발과 투자가 병행되어야 한다. 경쟁사 진입으로 기존 제품 프리미엄이 낮아질 때쯤 더 높은 성능과 가격의 다음 세대가 등장하는 구조다. 메모리 산업 전체를 더 이상 하나의 사이클로 설명할 수 없다. 기업은 시장을 세그먼트별로 나눠 상관관계를 추적하고, 각각의 기회가 열리는 짧은 시기에 재투자 결정을 내려야 한다. 이런 판단 능력 자체가 새로운 경영 역량이 되고 있다. 이 세 과제를 관통하는 방향은 분명하다. 효율화 기술과 경쟁할 것이 아니라, 효율화 기술과 함께 발전하는 메모리를 만들어야 한다. 압축된 데이터를 초고속으로 쏟아붓는 대역폭 중심 메모리, 계층 간 데이터를 지능적으로 오케스트레이션하는 컨텍스트 메모리, 그리고 이 모두를 AI 시스템 아키텍처에 맞춰 통합 공급하는 ‘종합 메모리 솔루션 기업’으로 포지셔닝해야 한다. 메모리를 파는 회사가 아니라, 메모리 계층 전체를 설계하는 기업이 되어야 한다. 메모리 중심 AI 시대가 한국 반도체 산업에 던지는 요구다. 기억을 다루는 자가 지능의 시대를 연다 한 걸음 물러서면, 이 모든 기술 논쟁의 밑바닥에는 놀랍도록 단순한 질문이 놓여 있다. AI의 성능은 결국 무엇을 기억하고, 무엇을 버리며, 필요한 맥락을 얼마나 빠르게 불러올 수 있는가에 좌우된다. AI가 KV 캐시를 어떻게 압축하고 어떤 문맥을 핫 계층에 둘지 결정하는 과정은, 인간이 자신의 경험을 정리하고 되새기는 방식과 놀라울 만큼 닮아 있다. 우리는 오랫동안 “어떻게 더 빠르게 계산할 것인가”를 물었지, “무엇을 어떻게 기억할 것인가”를 묻지 않았다. 기술이 고도화될수록 질문은 오히려 더 근본적인 곳으로 돌아온다. 메모리는 더 이상 정해진 규격과 가격에 따라 공급되는 범용 부품이 아니다. AI 시대의 전략물자이며, 지능이 흐르는 혈관이자 토큰의 통로이고 저장고다. 그리고 한국은 지금 AI의 혈관을 구성하는 핵심 산업에서 막강한 영향력을 발휘할 수 있는 자리에 서 있다. 문제는 이 자리를 ‘더 많이 찍어내는 자’로 지킬 것인가, 아니면 ‘지능의 기억 구조를 설계하는 자’로 도약할 것인가에 있다. 전자는 결국 추격당하는 자리이고, 후자는 새로운 시장의 규칙을 만드는 자리다. 메모리 중심의 AI 반도체 시대는 이미 시작됐다. 권석준 교수는 성균관대학교 화학공학부 교수이자 공과대학 부학장이다. 서울대학교 화학생물공학부를 졸업하고 미국 매사추세츠공과대학교(MIT)에서 화학공학 박사학위를 받았다. 차세대 반도체 소재와 공정 기술을 연구하며, 반도체 산업과 글로벌 공급망 전략에 관한 글과 강연을 이어가고 있다. 저서로 《반도체 삼국지》와 《차이나 반도체 라이징》 등이 있다. 인기 기사 세계에서 가장 깊고 긴 해저 도로 터널을 가다 피카츄가 뛰놀던 AR 거리 데이터, 피자 배달 로봇의 눈이 되다 연산의 시대에서 기억의 시대로 AI 포르노와 섹스의 미래 “채용 통과했나 싶었는데…” 구직자
2026.07.28 0 27
2026년 강남구 신사업 및 브랜드 강화 지원사업 공모 공고
⏰ 7월 5주 주요 모집 공고 🎯(7/30) <AISE 2026 AI 이노베이션 IR 피칭데이 참가기업>🎯(7/30) <AME 2026 자율주행모빌리티산업전 IR 피칭데이 참가기업>🎯(7/31) <2026 지역실증형 오픈이노베이션 협력사업 참가기업>🎯(8/2) <Try Everything 2026 사전등록 & 밋업 참가기업>🎯(8/7) <2026년 강남구 신사업 및 브랜드 강화 지원사업 공모>🎯(8/13) <딜로이트토마츠 (우주항공/Aerospace) 데모데이 참가 스타트업>🎯(상시모집) <제주창조경제혁신센터 2026 상시매칭 오픈이노베이션 플랫폼> 2026년 강남구 신사업 및브랜드 강화 지원사업 공모 👉모집 기간 : ~ 08.7(금) 18:00 까지👉지원 자격 : 강남구 소재 중소기업 또는 소상공인(신사업 기반 기술 서비스 상용화 단계이상 보유 기업)👉지원 내용 : 인공지능 박람회 참가 등 자세한 지원 내용은 공고문 참고👉신청 방법 : 하단 신청접수 통해서 확인 및 접수 必 강남구에서 강남구 소재 중소기업 또는 소상공인, 신사업 기반 기술 서비스를 상용화 단계이상 보유한 기업을 대상으로 인공지능(AI) 및 신사업 분야 중소기업의 브랜드 경쟁력 강화와 판로 확대를 지원하기 위한 「2026년 강남구 신사업 및 브랜드 강화 지원사업」을 실시합니다. 지원 규모는 5개사 내외 (1개사당 최대 20,000천원 지원), 지원 내용으로는 인공지능 박람회 참가, 브랜드 및 홍보 콘텐츠 제작, 관내 신사업 기반 기술・서비스 사업관련 실증지원 계획 되어 있습니다. 강남구 홈페이지 내 모집공고 확인 후 방문접수 혹은 이메일 접수를 통해 가능하시며, 또는 하단 접속 링크를 통해 확인하시면 됩니다. 제출서류 및 세부사항은 강남구 홈페이지 모집공고를 참고해주시기 바라며, 강남구 유망기업의 많은 참여 바랍니다. *전자우편 : okherewego@gangnam.go.kr*방문접수 : 강남구청 지역경제과(강남구 학동로 428, 4층) 신청접수 바로가기 AISE 2026 AI 이노베이션 IR& VC 멘토링 참가기업 모집 👉접수 마감 : 2026.07.30(목) 13시 까지👉피칭 장소 : 강남 코엑스 B홀 내 스테이지👉신청 방법 : 하단 접수창 접속 후 신청 피칭 & 멘토링 참가 신청 바로가기 AME 2026 IR 피칭데이& VC 멘토링 참가기업 모집 👉접수 마감 : 2026.07.30(목) 13시 까지👉피칭 장소 : 강남 코엑스 B홀 내 세미나장👉신청 방법 : 하단 접수창 접속 후 신청 피칭 & 멘토링 참가 신청 바로가기 2026 지역실증형오픈이노베이션 협력사업참여 스타트업 모집 👉접수 마감 : 2026. 07.31(금) 15:00까👉선정 혜택 : 공고페이지 참고 必👉신청 방법 : 하단 접수창 통해 구글 폼 신청 실증 O.I 참여 신청 바로가기 Try Everything 20261:1 비즈니스 밋업 참가기업 모집 👉접수 마감 : 2026.08.2(일)까지👉밋업 장소 : 동대문디자인플라자 아트홀👉신청 방법 : 하단 접수창 접속 후 신청*밋업/사전등록 별도 접수L 자세한 사항은 홈페이지 접속 후 확인 必 사전등록 & 밋업 신청 바로가기 딜로이트토마츠 모닝피치(우주항공/AeroSpace)데모데이 참가 스타트업 모집 👉접수 마감 : 2026.08.13(목)까지👉데모 장소 : 코엑스 2층 스타트업브랜치👉신청 방법 : 하단 접수창 접속 후 신청 모닝피치 참가 신청 바로가기 제주창조경제혁신센터 2026상시매칭 오픈이노베이션 플랫폼👉모집 일자 : 2026년 연중 상시 모집👉선정 혜택 : 공고페이지 참고 必👉신청 방법 : 하단 접수창 통해 구글 폼 신청 접수창 바로가기 KITA Startup Branch 카카오상담채널 저희 Branch 카카오채널 연결을 안하셨다면 클릭해보시기 바랍니다. 그리고 "안녕하세요" 라고 말을 걸어주시면, 담당자가 직접 응답하고 맞춤형 관리를 해드립니다. (👉클릭)
2026.07.28 0 49
AI가 발견하고 인간이 증명하는 시대
AI가 스스로 판단하고 행동하는 시대가 열리면서 단순한 성능보다 판단의 신뢰성이 중요한 경쟁력으로 떠오르고 있다. 이수인 워싱턴대 석좌교수는 AI의 다음 경쟁력은 ‘왜 그런 판단을 내렸는지’를 설명하고, 인간이 그 근거를 검증할 수 있는 능력이라고 강조한다. 박수연 수석기자 코로나19가 한창이던 시기, 폐 엑스레이 사진 한 장만으로 감염 여부를 판별하는 AI 모델들이 잇따라 등장했다. 일부 모델은 높은 정확도를 기록하며 큰 주목을 받았다. 그러나 이수인 미국 워싱턴대 석좌교수 연구팀이 AI의 판단 과정을 분석한 결과는 예상과 매우 달랐다. AI는 폐 병변보다 사진 가장자리의 표식이나 병원마다 다른 촬영 장비의 특성, 영상 화질처럼 ‘어느 병원에서 촬영됐는지’를 짐작할 수 있는 단서들을 학습했고, 실제 판단에서도 이러한 정보를 중요한 근거로 활용하고 있었다. AI는 감염 여부를 맞게 판별했지만, 의학적으로 의미 있는 폐 병변의 특징이 아닌 촬영 환경에 포함된 비의료적 단서를 바탕으로 판단한 것이다. 이 사례는 AI의 정확도가 높다고 해도 그 판단을 그대로 신뢰할 수는 없다는 점을 보여준다. 촬영 환경 같은 부수적 단서에 기댄 판단은 장비와 환경이 다른 병원에서는 그대로 통하지 않기 때문이다. 이수인 교수는 이러한 문제의식에서 출발해 AI가 어떤 근거로 결론을 내렸는지 설명하는 ‘설명가능 AI(XAI)’ 분야를 대표하는 연구자로 자리 잡았다. 또 이 교수는 여러 입력 정보 가운데 어떤 요소가 AI의 판단에 얼마나 영향을 미쳤는지를 수치로 보여주는 ‘SHAP’ 기법을 개발했다. 이 기법은 의료와 금융을 비롯한 다양한 분야에서 대표적인 AI 설명 기법으로 활용되고 있다. 판단의 근거를 알 수 없다는 문제는 AI가 단순한 분석 도구를 넘어 스스로 판단하고 행동하는 에이전트로 진화하면서 더욱 중요해지고 있다. 기술이 발전할수록 인간이 AI의 작동 원리와 판단 과정을 완전히 이해하기 어려운 영역도 커지고 있다. AI는 산업과 학문 전반에서 질문에 답하는 도구에 머물지 않고, 데이터를 분석하고 의사결정을 내리며 실제 업무를 수행하는 ‘에이전트’로 이동하고 있다. 이제 중요한 질문은 AI를 사용할 것인가가 아니라, AI에게 어떤 판단을 맡길 수 있으며 그 결과를 어떻게 검증할 것인가로 바뀌고 있다. ‘AI 에이전트, 그 다음(After the Agent)’ 시대의 핵심 과제는 AI의 자율성을 얼마나 높일 것인가가 아니다. AI가 내린 판단의 근거를 인간이 이해하고 검증할 수 있도록 만드는 것, 그리고 AI의 판단을 신뢰할 수 있는 기준과 절차를 마련하는 것이 더 중요한 과제로 떠오르고 있다. 설명가능 AI 연구를 선도해 온 이수인 워싱턴대 석좌교수에게 AI 판단을 신뢰하기 위한 조건과 에이전트 시대 이후 인간이 맡게 될 역할에 대해 물었다. AI 가능성에서 엿본 미래 Q. ‘딥러닝’이라는 말도 없던 2000년에 신경망으로 손글씨 숫자를 알아맞혀 논문상을 받으셨다고 들었습니다. 제가 학부생이던 2000년 무렵에는 인공지능이 지금처럼 사회 전반의 화두가 아니었습니다. 신경망 연구는 매우 제한된 계산 자원과 데이터 속에서 이뤄졌고, 그것이 실제로 큰 영향을 미칠지 확신하는 사람도 많지 않았습니다. 하지만 저는 그때도 기계가 데이터로부터 스스로 규칙을 학습한다는 아이디어에 강하게 끌렸습니다. 손글씨 숫자를 인식하는 연구를 하면서, 사람이 일일이 규칙을 정해 주지 않아도 컴퓨터가 경험을 통해 패턴을 배운다는 사실이 무척 인상적이었거든요. 딥러닝 혁명이 오기 한참 전에 인공지능의 가능성을 처음 엿본 경험이었습니다. 어린 시절 아버지와 수학 문제를 풀며 자연의 원리를 이해하는 즐거움을 배운 영향도 컸습니다. 그래서 저에게 인공지능은 똑똑한 기계를 만드는 기술이라기보다, 복잡한 세상을 이해하기 위한 새로운 도구처럼 다가왔습니다. 그 생각은 지금도 크게 달라지지 않았습니다. Q. 박사 과정에서는 기계를 ‘보게’ 만드는 연구를 접고 계산생물학으로 옮기셨죠. 박사 과정에 진학하면서 ‘이 기술을 어디에 쓰고 싶은가’를 스스로에게 물었습니다. 인공지능이나 뇌과학 연구 자체도 흥미로웠지만, 인간의 건강과 질병처럼 더 근본적인 문제를 풀고 싶다는 마음이 점점 커졌습니다. 특히 알츠하이머병은 수많은 유전자와 분자, 환경 요인이 복잡하게 얽혀 있어 인간의 직관만으로는 이해하기 어려운 부분이 많습니다. 저는 오히려 인공지능이 가장 큰 가치를 발휘하는 곳이 바로 이런 복잡한 생명 현상이라고 봤습니다. 그래서 기계가 이미지를 인식하게 만드는 연구에서 한 걸음 더 나아가, 생명체가 어떻게 작동하고 왜 병이 생기는지를 데이터로 이해하는 문제에 뛰어들었죠. 주제가 바뀐 것처럼 보이지만 저에게는 같은 질문의 연속이었습니다. 학부 때는 데이터에서 패턴을 발견하는 방법을 연구했고, 이후에는 그 방법으로 인간의 건강과 질병을 이해하려 한 것이니까요. AI가 똑똑해질수록, ‘왜’가 더 중요해진다 Q. 코로나 진단 AI는 정확도는 높았지만 근거는 엉터리였죠. ‘정확도’가 신뢰의 근거가 될 수 없다면 무엇을 봐야 할까요? 오랫동안 인공지능 분야에서는 정확도가 가장 중요한 평가 기준이었습니다. 하지만 의료 현장에서 연구하며 저는 정확도만으로는 충분하지 않다는 걸 여러 번 목격했습니다. 코로나 진단 AI가 그 단적인 예죠. 시험 문제의 답은 맞혔지만, 풀이 과정은 틀렸던 셈입니다. 이 경험을 통해 저는 신뢰란 ‘얼마나 자주 맞히는가’가 아니라 ‘왜 그렇게 판단했는가’의 문제라고 생각하게 됐습니다. 그래서 앞으로는 AI가 어떤 정보를 활용했는지, 새로운 환경에서도 같은 방식으로 작동하는지, 언제 틀릴 수 있는지, 그 과정을 독립적으로 검증할 수 있는지를 함께 평가해야 합니다. 제가 ‘AI 감사(AI auditing)’가 필요하다고 말하는 이유입니다. 결국 신뢰는 성능이 아니라 투명성과 검증 가능성에서 나옵니다. Q. 교수님은 늘 ‘맞다’보다 ‘왜 맞는가’가 중요하다고 하셨습니다. AI가 인간이 이해할 수 없는 방식으로 정답을 찾을 때도 그런가요? AI가 인간의 이해를 넘어서는 것처럼 보일수록, 우리는 ‘왜’를 더 중요하게 물어야 합니다. 과학의 역사를 보면 인간은 늘 자신보다 복잡한 현상을 마주해 왔어요. 유전자 네트워크도, 뇌의 작동 원리도, 기후 시스템도 직관만으로 완전히 이해할 수 있는 대상은 아니었지만, 그렇다고 이해를 포기하지는 않았습니다. 새로운 이론과 도구를 만들어 이해의 범위를 넓혀 왔죠. AI도 마찬가지입니다. 때로는 AI가 인간 연구자가 미처 생각하지 못한 가설이나 패턴을 발견할 수 있습니다. 그러나 과학은 단순히 정답을 얻는 과정이 아니라, 왜 그것이 정답인지 설명하고 검증하는 과정입니다. 설명할 수 없는 답만 쌓인다면 우리는 지식을 쌓는 게 아니라 예측 기계를 쓰는 데 그칠 수도 있습니다. 그럴수록 AI와 인간 사이에 새로운 설명 체계가 필요합니다. 설명가능한 AI와 AI 감사 연구가 궁극적으로 추구하는 목표도 거기에 있습니다. 인간의 이해를 포기하는 것이 아니라, 인간의 이해를 확장하는 것입니다. Q. AI는 이제 사람 눈에 안 보이던 패턴을 찾고 가설까지 세웁니다. 과학자들에게는 위협일까요? 생명과학에서는 연구자가 직접 발견하기 어려운 유전자 네트워크나 질병의 분자적 경로를 AI가 찾아내고, 최근에는 새로운 가설을 제안하는 단계로까지 나아가고 있습니다. 하지만 저는 이것이 과학자를 대체하는 과정이라고 보지 않습니다. 오히려 과학자의 역할은 더 중요해질 수 있. AI는 상관관계와 가능성을 제시할 수 있지만, 어떤 질문이 의미 있는지 판단하고 그것이 생물학적으로 무엇을 뜻하는지 이해하며, 궁극적으로 새로운 지식을 만들어 내는 것은 여전히 인간의 몫이기 때문입니다. 그래서 앞으로의 과학은 인간의 시대도 AI의 시대도 아니라, 인간과 AI가 함께 발견하는 시대가 될 가능성이 높습니다. 저는 AI를 과학자를 대체하는 존재가 아니라, 인간의 지적 범위를 넓히는 새로운 과학적 기구(scientific instrument)로 봅니다. 에이전트의 다음은 ‘행동’이 아닌 ‘발견’ Q. 지금까지 AI는 인간에게 ‘확인하는’ 도구였습니다. 그러나 이제는 일을 ‘맡기는’ 상대로 전환되고 있습니다. 지금까지 대부분의 AI는 인간이 질문을 던지고 결과를 검토하는 구조였습니다. 설령 AI가 틀려도 마지막 판단은 사람이 했기 때문에, 인간이 자연스럽게 안전장치 역할을 할 수 있었죠. 하지만 AI 에이전트는 본질적으로 다릅니다. 이제 AI는 답을 제시하는 데 그치지 않고 정보를 찾고, 계획을 세우고, 여러 단계를 거쳐 행동까지 수행합니다. 자동차에 비유하면, 지금까지의 AI는 길을 추천하되 운전은 사람이 하는 내비게이션에 가까웠습니다. 반면 AI 에이전트는 시스템이 실제로 행동을 수행하는 자율주행차에 더 가깝습니다. 가장 큰 변화는 인간이 더 이상 모든 판단을 직접 검증할 수 없다는 점입니다. 작업이 복잡해질수록 ‘사람이 마지막에 확인하면 된다’는 기존의 신뢰 모델이 작동하기 어려워집니다. 그래서 앞으로는 AI가 무엇을 했는지 사후에 추적할 수 있어야 하고, 어떤 근거로 결정했는지 설명할 수 있어야 하며, 독립적인 감사가 가능해야 합니다. 금융기관이 거래 기록을 남기고 항공기가 비행 기록 장치를 갖추는 것과 같은 원리죠. 결국 에이전트 시대의 핵심 과제는 더 똑똑한 AI를 만드는 것이 아니라, 인간이 모든 과정을 일일이 확인하지 않아도 믿을 수 있는 사회적·기술적 장치를 만드는 것입니다.Q. AI 에이전트의 ‘다음’은 무엇입니까. 그리고 그 단계에서 가장 중요해지는 건 무엇입니까. 많은 사람이 AI 에이전트의 다음 단계를 더 높은 성능이나 더 큰 자율성에서 찾습니다. 물론 AI는 더 많은 작업을 하고 더 복잡한 의사결정을 스스로 내리는 방향으로 발전할 것입니다. 그러나 진짜 변화는 ‘더 많은 일을 하는 AI’가 아니라, AI가 인간의 문제 해결 방식 자체를 바꾸는 데 있다고 생각합니다. 지금까지의 AI가 주로 생산성을 높이는 도구였다면, 앞으로의 에이전트는 과학적 발견과 문제 해결의 동반자로 확장될 가능성이 큽니다. 질문에 답하거나 작업을 자동화하는 수준을 넘어, 새로운 가설을 제안하고 실험 공간을 탐색하며 인간이 미처 보지 못한 구조와 패턴을 찾아내는 역할을 하게 될 것입니다.그런 의미에서 AI 에이전트의 다음은 행동(Action)의 고도화가 아니라 발견(Discovery)의 시대로 넘어가는 전환입니다. 중요한 것은 AI가 얼마나 많은 일을 대신하느냐가 아니라, 인간이 더 본질적인 질문을 던지고 새로운 지식을 만들 수 있도록 얼마나 잘 확장해 주느냐입니다. 그러기 위해 에이전트는 단순한 실행자가 아니라 자신의 추론 과정과 한계를 함께 드러내는 방향으로 발전해야 합니다. 신뢰를 위한 감사 가능성(auditability)이 핵심 설계 원칙이 되어야 하고, 그 위에서만 AI는 인간의 지적 능력을 확장하는 진정한 동반자가 될 수 있습니다. ‘After the Agent’의 핵심은 더 강한 자율성이 아니라, 과학적 발견·인간의 이해·사회적 신뢰를 어떻게 연결할 것인가이다. Q. 에이전트가 스스로 일하게 되면서 발생하는 문제에 대한 우려도 커지고 있습니다. AI 에이전트가 확산될수록 기술적 문제만큼 사회적 문제가 중요해진다고 봅니다. 첫째는 책임입니다. 에이전트가 아무리 자율적으로 행동해도 책임 자체를 AI에게 넘길 수는 없습니다. 의료나 금융, 과학 연구처럼 중요한 영역에서는 결국 어떤 사람이, 어떤 조직이, 어떤 절차로 그 시스템을 운영했는지 추적할 수 있어야 합니다. AI 시스템에도 감사 가능성과 책임 추적성이 필수인 이유입니다. 둘째는 학습입니다. 에이전트가 너무 많은 판단을 대신하면 사람들은 결과만 소비하고 사고 과정은 경험하지 못할 위험이 있습니다. 특히 교육과 연구에서는 답에 도달하는 과정에서 배우는 것이 많기 때문에, 인간의 성장 기회를 지키는 설계가 중요해집니다. 셋째는 불평등입니다. 강력한 AI 에이전트는 생산성을 크게 높이지만, 그 접근성이 일부 국가와 기업, 기관에 집중되면 기존의 격차가 더 벌어질 수 있습니다. 기술적 격차가 곧 과학적·경제적 격차로 이어지는 것이죠. 우리가 지금 만들어야 할 것은 더 강한 AI가 아니라, 책임과 신뢰, 기회의 공정성을 함께 담는 사회적 제도와 기술적 기반입니다. AI가 커질수록, 인간의 자리는 ‘의미’ 있다 Q. AI가 점점 더 많은 일을 대신하는 시대에, 끝내 사람의 몫으로 남는 건 무엇일까요. AI가 더 많은 일을 수행하더라도 인간의 역할이 사라진다고 보지는 않습니다. 오히려 더 근본적인 방향으로 옮겨갈 것입니다. AI는 점점 더 많은 답을 만들어낼 수 있지만, 어떤 질문이 중요한지 정하고 그 결과가 어떤 의미인지 해석하며 사회가 그것을 어떻게 받아들일지 판단하는 일은 여전히 인간의 몫입니다. 저는 인간의 가장 중요한 역할이 의사결정을 수행하는 존재가 아니라, 세상을 이해하려는 존재로 남는 것이라고 생각합니다. 그래서 앞으로도 AI를 더 강력하게 만드는 연구와 함께 AI가 만들어낸 결과를 인간이 이해하고 검증할 수 있게 하는 연구를 계속하고 싶습니다. 어쩌면 AI 시대의 가장 중요한 질문은 ‘기계가 무엇을 할 수 있는가’가 아니라 ‘인간은 무엇을 이해해야 하는가’일지도 모릅니다. Q. 거대 모델 경쟁은 오픈AI·구글·앤트로픽이 이미 멀찍이 앞서 있습니다. 한국은 어떤 분야에서 승부해야 할까요? 많은 사람이 AI 경쟁을 누가 더 큰 모델을 만드느냐의 문제로 봅니다. 하지만 앞으로의 경쟁이 반드시 그렇게 흘러가지는 않을 겁니다. 기초 모델 자체에서는 글로벌 빅테크가 상당한 우위를 유지하겠지만, 실제 가치는 그 모델을 어떤 문제에 연결하느냐에서 만들어집니다. 의료, 바이오, 제조, 반도체, 과학 연구 같은 분야에서는 도메인 전문성과 현장 데이터, 문제에 대한 깊은 이해가 매우 중요합니다. 저는 한국이 범용 AI 경쟁을 그대로 따라가기보다는 세계적으로 강점을 가진 산업과 과학에 AI를 깊이 통합하는 전략이 필요하다고 봅니다. 특히 바이오와 의료는 인간의 삶에 직접 영향을 미치면서도 매우 복잡한 지식이 요구되는 영역이기 때문에 AI가 가장 큰 가치를 만들어낼 분야 중 하나입니다. 동시에 우리는 AI를 사용하는 데 그치지 않고 신뢰와 검증, 인간 중심 설계에 관한 글로벌 기준을 만들어가야 합니다. 앞으로의 AI 경쟁은 단순한 성능 경쟁이 아니라, 사회가 실제로 신뢰할 수 있는 시스템을 누가 구축하느냐의 경쟁이 될 가능성이 크기 때문입니다. 결국 한국이 기여할 수 있는 가장 중요한 영역은 AI를 더 크게 만드는 것이 아니라, AI를 더 의미 있게 활용하는 방법을 보여주는 것이라고 생각합니다. 이수인 교수는 KAIST 학부를 거쳐 스탠퍼드대에서 머신러닝의 대가 대프니 콜러 교수의 지도로 박사 학위를 받았다. 현재 워싱턴대 폴 G. 앨런 컴퓨터과학·공학부 교수로 AI for bioMedical Sciences Lab을 이끌며 생명과학과 정밀의료에 머신러닝을 적용하는 연구를 개척해오고 있다. 2024년 삼성호암상 공학상과 ISCB 혁신가상을 수상했다.
2026.07.23 0 166
미국 뺨 때린 중국 AI "싼 맛에 쓰는 게 아닙니다"
오늘의 세줄 요약1.중국 문샷 AI의 '키미 K3'가 3조급 오픈웨이트 모델로 등장해 프런트엔드 코딩 1위를 달성하며 중국 AI가 '저가 추격자'를 넘어 미국 최상위 모델의 턱밑까지 추격했습니다.2.중국은 오픈웨이트 방식을 통해 글로벌 표준과 점유율을 선점하고 있으며, 이는 '막대한 자본 투입이 독점을 만든다'는 미국 빅테크의 기존 공식을 흔들고 있습니다.3.미국의 엄격한 규제, 폐쇄적 정책, 경직된 비자 제도가 오히려 자국에서 배출한 초일류 인재를 중국으로 몰아내고 혁신의 발목을 잡는 부메랑으로 돌아오고 있는 것은 아닐까요. K3 출시와 함께 많은 밈들이 인터넷을 달구고 있습니다. [사진=인터넷 커뮤니티] 저가 추격자에서최전선 경쟁자로 먼저 규모입니다. K3는 파라미터 2.8조, 컨텍스트 100만 토큰의 오픈웨이트 모델입니다. 문샷은 이를 ‘세계 최초의 3조급 오픈 모델’이라 불렀는데요. 지금까지 공개된 가장 큰 오픈웨이트 모델입니다. 종전 최대였던 딥시크(1.6조)를 능가합니다. 한 가지는 짚어야 합니다. 여러 매체가 K3를 ‘오픈소스’라 부르지만 정확히는 ‘오픈웨이트’입니다. 전체 가중치는 27일 공개한다고 하는데요. 여기까지 읽으신 뒤 “뭐라는 거야” 하시는 분들이 계실 것 같아 빠르게 정리부터 하고 갈게요. 일단 ‘파라미터’란 AI 두뇌에 있는 ‘뇌세포의 연결 고리’라고 볼 수 있어요. 인간의 뇌로 비유하면 뇌는 뇌세포와 뇌세포 사이의 연결을 통해 정보를 기억하고 판단합니다. AI에게 파라미터란 바로 이 연결 고리의 개수를 의미해요. 파라미터의 숫자가 크다는 것은 AI의 뇌가 그만큼 크고 똑똑하다는 뜻이라고 볼 수 있어요. 챗GPT나 클로드 등 미국 AI 기업은 이 파라미터 수를 공개하지 않습니다. 그다음, ‘컨텍스트 100만 토큰’은 AI가 한 번에 읽고 이해할수 있는 기억력의 용량을 말합니다. 100만 토큰은 두꺼운 장편소설 3~4권 분량 정도 되는데요. 즉 소설 3권을 통째로 넣은 뒤 “두 소설 비교해봐”라는 명령을 내릴 수 있음을 뜻해요. 오픈웨이트는 파라미터를 전 세계에 무료로 공개하는 방식을 말합니다. 요리로 비유를 많이 드는데요. 제가 알고 있는 김치찌개 레시피를 절대 공개하지 않고 팔면 ‘폐쇄형’, 간장 4스푼, 설탕 2스푼, 고추장 1스푼... 이처럼 맛을 내는 핵심 수치(가중치)를 공개하는 게 오픈 웨이트에요. 이를 공개하면 매운맛을 좋아하는 사람은 이 레시피에 고추를 더 넣는 방식으로 자신의 입맛에 맞게 고칠 수 있습니다. 오픈소스와 오픈웨이트의 차이도 간단히 설명하고 갈게요. 앞서 레시피를 공개하는 게 오픈웨이트라고 말씀드렸는데요. 간장 4스푼이라고 했지만 그게 어떤 간장인지는 모릅니다. 오픈소스는 달라요. 제주도 서귀포시에 있는 돌하르방 옆 가게에서 파는 양조간장, 설탕은 코스트코 광명점 설탕 판매대 두 번째 칸에 있는 ‘미라클 설탕’ 이런 식으로 재료의 출처는 물론 “80도에서 고춧가루를 넣고 10분 동안 저으세요”와 같은 제조 방법까지 모두 공개한 것을 의미합니다. 다시 K3로 넘어갈게요. K3가 주목받은 가장 큰 이유는 ‘성능’입니다. 코딩 순위인 아레나의 프런트엔드 부문 18위에서 단숨에 1위로 뛰어올랐습니다. 페이블5와 GPT-5.6 솔을 제친 건데요. 오픈 모델이 특정 실전 과제에서 미국 최상위 폐쇄 모델을 앞선 건 처음이라는 평가가 나옵니다. 전체 지능 순위는 어떨까요. 독립 평가기관 발스AI는 K3를 페이블5 바로 아래, GPT-5.6 솔보다는 위로 봤습니다. 아티피셜애널리시스는 페이블5와 GPT-5.6 솔에 모두 밀리는 3~4위권으로 매겼고요. 문샷 스스로도 블로그에서 “전반적으로 경쟁력 있지만 사용자 경험은 페이블5·GPT-5.6 솔에 눈에 띄게 못 미친다”고 인정했습니다. 평가 마다 위치는 다릅니다. 다만 ‘최상위권 언저리’라는 것이 공통된 의견입니다. 얼마 전까지 전문가들은 중국 AI 모델이 미국과 비교했을 때 6~9개월 뒤진다고 봤습니다. 아레나를 함께 만든 이온 스토이카 UC버클리 교수는 지금은 그 격차가 “2~3개월일지 모른”다고 말합니다. 영국 AI안전연구소도 사이버보안 능력에 한정하면 격차가 1년 전 6~10개월에서 4~7개월로 좁혀졌다고 분석했습니다. 1년, 2~3년도 아니고 2~7개월이라는 소리인데, 이게 격차가 있다는 것인지 없다는 것인지 잘 모르겠네요. 물론 중국 모델은 앤트로픽과 오픈AI 등 첨단 모델의 답변을 대량으로 긁어서 훈련에 사용하는 ‘증류’ 의혹을 피할 수 없습니다. 하지만 웹스터 교수는 “중국 모델이 뛰어난 게 증류만으로 설명되진 않는다, 진짜 혁신이 일어나고 있다”고 말합니다. 수출 통제로 고성능 칩을 못 구한 중국 기업들이 소프트웨어 효율로 승부를 본 결과라는 거죠. 실리콘밸리에 있는 사람들의 시선도 달라진 듯합니다. 박스 CEO 에런 레비는 “밸리에선 지금 이 얘기밖에 안 한다”고 했고, 아레나 CEO는 K3를 “올해 최대의 공개”라 부를 정도니까요. 1년 반 전 딥시크가 안겼던 충격이 되풀이되는 모습입니다. 다른 점은 딥시크가 ‘이렇게 싸게 만들 수 있다’라는 충격이었다면 K3는 ‘이만큼 잘 만들 수 있다’라는 충격이거든요. K3 출시 뒤 회자된 K3의 답변입니다. 본인을 '클로드'라고 소개하고 있어요. 모델 학습시 클로드의 대화 데이터를 대량 사용했기 때문이라는 합리적 의심(?)이 나오는 이유입니다. [사진=인터넷 커뮤니티] 오픈웨이트로생태계 선점 K3는 상하이에서 개최된 세계인공지능대회(WAIC)에서 공개됐습니다. 이날 시진핑 주석이 기조연설에 나섰는데요. 그는 “AI 발전은 한 나라의 독주가 아니라 국제 협력의 교향곡이어야 한다”라며 “AI 분야에서 국가안보 개념을 지나치게 확대하는 데 반대한다”고도 했습니다. 미국의 수출 통제를 겨냥한 말로 읽힙니다. 중국은 스스로를 ‘개방 진영의 챔피언’으로 세우고 있는 겁니다. 이건 중국의 전략입니다. 중국의 주요 AI 모델은 거의 오픈입니다. 딥시크, 알리바바 큐원, Z.ai의 GLM, 문샷 키미… 현재 세계 10대 인기 모델 가운데 6개가 중국산인데요. 물론 인구가 많은 중국 개발자의 다운로드 수도 영향을 미쳤겠지만 실리콘밸리의 많은 스타트업들 또한 중국 모델을 사용하고 있습니다. 가격 때문인데요. 이를 두고 미국이 ‘가장 센 모델’을 움켜쥐는 사이, 중국은 ‘가장 널리 깔리는 모델’을 노리고 있다는 이야기가 나옵니다. 승부처를 성능에서 점유율로 옮긴 셈이죠. 세계가 이를 받아들이는 이유는 단순합니다. 충분히 좋고, 열려 있고, 쌉니다. 오픈웨이트라 기업이 자체 서버에 올려 돌릴 수 있으니 데이터가 밖으로 안 나가고 내부 자료에 맞춰 손보기도 쉽습니다. 값은 폐쇄형의 10~60분의 1이라는 분석도 있고요. 지난달 나온 Z.ai의 GLM-5.2는 일부 작업에서 클로드 오푸스 4.8의 8분의 1 비용이면서 출시 직후 세계에서 가장 많이 쓰이는 모델 상위권에 올랐습니다. “개 산책하는 데 올림픽 선수를 쓸 필요가 없다”라는 것처럼 간단한 작업에는 저렴한 중국 모델을 쓰는 게 경제적이라는 인식이 퍼지고 있습니다. 여기에 미국 정부의 최근 행보도 도마 위에 오릅니다. 지난달 미국 정부가 앤스로픽 최상위 모델 미토스와 페이블의 해외 공급을 제한했는데요. 유럽 기업들은 그 사이 “미국에만 의존하면 언제든 끊길 수 있다”는 걸 체감했습니다. 2년 전 유럽의 최대 걱정이 중국 기술이었다면 이제는 미국 정책의 변덕이 더 큰 리스크로 인식되기 시작한 겁니다. 중국 오픈 모델이 역설적으로 ‘안정적인 기본값’이 되는 순간을 경험한 겁니다. 미국은 첨단 AI를 ‘핵무기’와 같은 전략 물자로 다루기 시작했습니다. 파괴력이 크니 움켜쥐고 감시한다는 거죠. 반면 중국은 자국 모델을 ‘원자력’처럼 취급합니다. 공유하고 상업화해서 세계로 수출한다는 느낌이랄까요. 그래서 ‘어떤 AI가 세계의 표준이 되느냐’라는 질문이 뒤따릅니다. 미국이 아무리 좋은 AI를 내놔도 오픈 모델 사용자가 확대되면 중국 모델이 마치 세계의 표준 역할을 할 수 있습니다. 물론 오픈이 ‘중립’을 의미하지는 않습니다. 중국 모델은 정치적으로 민감한 주제를 피하는 검열이 학습 단계에서 박혀 있거든요. 사용자가 손을 대면 표면적 검열은 상당 부분 풀리지만, 훈련 데이터에 스며들어 있는 편향까지 지우긴 어렵다는 게 전문가들의 지적이에요. 세계의 기본값이 중국 모델이 된다는 건 베여 있는 관점도 함께 퍼진다는 뜻이기도 합니다. 문샷AI의 34살 CEO 양쯔린입니다. 그는 미 카네기멜런대에서 컴퓨터과학 박사학위를 받고 페이스북과 구글 브레인 등에서 근무하며 이름을 알렸는데요. 보도에 따르면 애플에서 양쯔린을 데려가려고 했지만 고국으로 돌아가 스타트업을 세우길 원했다고 합니다. [사진=문샷AI 유튜브 캡처] 미 AI 시장독점의 균열? K3이 던진 폭탄은 성능과 점유율뿐만이 아닙니다. 미국, 특히 실리콘밸리가 굳게 믿어온 ‘돈을 더 부으면 이긴다’는 자본 공식, 그리고 안보를 이유로 빗장을 걸던 미국의 규제와 이민 정책, 그 두 벽에 깊은 금을 냈다는 데 의미(?)가 있다는 생각이 들어요. 그동안 미국 빅테크는 눈덩이처럼 불어나는 훈련 비용 자체를 절대적인 진입 장벽으로 삼았습니다. 엔비디아 칩 수만 개, 수십억 달러짜리 데이터센터를 감당할 자본이 있어야 프런티어의 주인이 된다는 논리였습니다. 오픈AI와 앤트로픽은 그 막대한 인프라 비용을 회수하려 높은 구독료와 API 요금을 매기는 폐쇄형 고수익 모델을 고수했고요. 하지만 중국은 그 게임을 하지 않았습니다. 수출 통제로 최고급 칩이 막혔으니 애초에 할 수도 없었고요. 대신 그들은 소프트웨어 효율화로 우회했습니다. 성능이 적은 칩, 경량화 설계 등으로 프런티어 모델의 턱밑까지 쫓아왔습니다. 앤트로픽이 지난 5월 무려 650억 달러의 천문학적인 자금을 조달하며 자본력을 과시할 때, 문샷 AI가 유치한 자금은 불과 20억 달러였습니다. 무려 30배가 넘는 자본 격차입니다. 가볍고 영리한 소프트웨어 혁신만으로 이 정도 체급을 만들어낼 수 있다면 미국의 그 막대한 투자는 과연 효율적이었나 하는 시장의 의구심이 고개를 들 수밖에 없습니다. 조 단위 몸값을 받는 기업들이 그만한 수요를 실제로 만들어낼 수 있느냐는 의문도 다시 생깁니다. 성능 차이는 지극히 좁혀졌는데 가격은 수십 분의 일이라면 고마진 폐쇄 모델의 사업 논리 자체가 흔들리거든요. ‘증류’의 방향도 뒤집혔습니다. 그동안 미국은 중국 AI 모델들이 자국 최고 모델의 답변을 긁어모아 덩치를 키운다며 폄훼해 왔습니다. 틀린 말은 아닙니다. 그런데 이제 반대의 장면이 펼쳐지고 있어요. 오픈AI 전 CTO 미라 무라티가 설립한 ‘싱킹 머신즈’는 이달 15일 첫 모델인 ‘잉클링’을 내놓으면서 후반 학습 단계를 문샷 키미 K2.5가 만든 합성 데이터로 다졌다고 스스로 밝혔습니다. 구조 역시 중국 딥시크 V3의 영감을 강하게 받았고요. 미국의 최정예 기술 팀조차 초기 훈련 비용을 아끼고 독점 장벽을 깨기 위해 중국의 오픈 모델 생태계 위에 자사 시스템을 얹기 시작한 겁니다. 미국이 큰돈 들여 쌓아 올린 독점적 데이터 자산의 우위가, 중국이 전 세계에 풀어놓은 오픈웨이트의 거대한 바닷속에서 침식당하고 있다는 진단은 결코 과한 비유가 아닐 거라는 생각이 듭니다. 마지막으로 가장 뼈아픈 대목은 ‘인재’에요. K3의 두뇌를 설계한 양즈린은 다름 아닌 미국 시스템이 길러낸 초일류 인재입니다. 칭화대를 졸업하고 2015년 카네기멜론대(CMU)로 건너가 머신러닝의 석학 러스 살라쿠트디노프와 윌리엄 코언 교수의 지도 아래 박사 과정을 단 4년 만에 끝냈습니다. 재학 시절 구글 브레인과 메타를 거치며 굵직한 연구 성과를 남겼고 졸업 무렵엔 빅테크들이 서로 데려가려 줄을 섰던 천재로 알려져 있어요. 그는 미국에 남는 대신 중국 귀국을 택해 문샷을 세웠고 불과 몇 년 만에 미국의 패권을 위협하는 거대한 칼날을 벼려냈습니다. 그를 가르친 살라쿠트디노프 교수가 소셜 미디어를 통해 제자의 K3 출시를 두고 “오픈소스 진영의 큰 승리”라 반기며 제자를 향해 “눈부시게 뛰어나다”라고 회고한 장면 앞에서 실리콘밸리는 탄식을 삼켜야 했습니다. 미국이 최고로 키워낸 천재가 정작 베이징에서 실리콘밸리의 뺨을 때리는 모델을 만들었기 때문입니다. 빌리어네어 투자자 비노드 코슬라도 “큰 문제는 우리가 경직된 비자 제도로 뛰어난 인재들을 밖으로 쫓아내고 있는 것”이라고 일갈했고 전 백악관 AI 차르였던 데이비드 색스는 데이터센터를 가로막고 규제를 쌓고 모델을 사전 승인하려는 미국 정부를 향해 “이렇게 하다간 AI 경쟁에서 진다”라고 경고했습니다. 결국 K3가 미국의 벽을 강제로 뚫었다기보다는 자본 만능주의, 폐쇄형 고수익, 고립주의적 규제와 경직된 이민 정책 등 미국이 남을 막으려 세운 참호들이 고스란히 부메랑이 되어 자국을 겨눈 꼴입니다. 이제 글로벌 AI 지형은 두 갈래로 쪼개집니다. 미국의 일방주의적 안보와 폐쇄적 규제 진영, 그리고 중국의 오픈웨이트를 축으로 뭉치는 중소 개발사들의 자체 조율 생태계. 미국이 아무리 첨단 AI를 움켜쥐어도 오픈소스의 전파력과 설계 효율이라는 우회로 앞에서는 독점을 오래 유지할 수 없음을 K3는 증명하고 있어요. 그런 의미에서 K3는 중국이 쏘아 올린 단순한 돌파구라기보다 오만에 빠져 있던 미국이 스스로를 냉정하게 돌아봐야 할 거울이 아닐까요. ※ 제목을 누르면 상세 내용으로 연결됩니다. AMD, AI 서버 통째로 판다…엔비디아 정조준AMD가 GPU·CPU·네트워크를 통합한 첫 랙 단위 AI 시스템 ‘헬리오스’를 공개하며 AI 인프라 경쟁에 뛰어들었습니다. MS와 메타, 오픈AI, 오라클을 초기 고객으로 확보했고, 메타는 장기적으로 6GW 규모 AMD GPU를 도입할 계획입니다. AMD는 토큰당 비용과 총소유비용(TCO) 절감을 강점으로 내세웠습니다. AI 데이터센터 GPU 시장에서 점유율 4.5%에 머무는 AMD가 헬리오스로 엔비디아의 독주를 흔들 수 있을까요? 中, 엔비디아 없이 AI 키운다중국 AI 기업 Z.AI가 중국산 AI 반도체만으로 구축한 1GW 규모 데이터센터를 가동하며 엔비디아 의존 탈피에 속도를 내고 있습니다. 차세대 GLM AI 모델 개발을 위한 시설로, 1만 개 이상 AI칩을 탑재한 클러스터를 여러 개 운영 중입니다. 미국의 수출 규제 이후 화웨이·캠브리콘 등이 국산 AI칩 개발을 확대하는 가운데, Z.AI는 이를 활용해 AI 인프라를 구축한 대표 사례로 꼽힙니다. AI 검색에 갇힌 이용자구글이 제미나이 기반 ‘AI 모드’를 확대하면서 이용자들이 검색 후 외부 웹사이트 대신 구글 안에 머무는 시간이 크게 늘고 있습니다. AI 모드 이용의 약 75%는 다른 사이트 방문 없이 끝나고, 출판사와 기업들은 검색 유입 감소로 광고·구독 수익이 줄었다고 호소합니다. 클라우드플레어는 금융·출판·유통 사이트의 인간 방문이 약 40% 감소했다고 분석했고, 영국 경쟁당국도 출처 표시와 AI 학습 거부권 도입을 요구했습니다.
2026.07.23 0 123
[인터뷰] 공중제비 도는 로봇은 왜 물건을 집지 못하나
로봇이 공중제비를 돌고 춤을 추는 모습은 이제 낯설지 않다. 몇 년 전만 해도 두 발로 걷는 것조차 뉴스가 되던 로봇이 사람보다 화려하게 움직이는 시대가 됐다. 그다음 질문은 자연스럽게 이어진다. 저렇게 잘 움직이는 로봇에게 실제로 일을 맡길 수 있을까. 이 질문에서 출발한 화두가 ‘피지컬 AI’다. 화면 안에서 글을 쓰고 그림을 그리던 AI에게 몸을 주어, 스스로 상황을 파악하고 계획을 세워 현실의 일을 끝까지 해내게 하려는 기술이다. 그러나 화려한 시연과 실제 현장 사이에는 간극이 있다. 현실에서는 조명과 날씨, 바닥 상태, 사람의 움직임 같은 변수가 끊임없이 바뀐다. 화면 안의 오류는 다시 고치면 그만이지만, 로봇의 오류는 멈춤과 충돌, 비용과 안전 문제로 이어진다. 그래서 이 분야의 승부처는 더 큰 모델을 만드는 쪽이 아니라, 매일 멈추지 않고 작동하는 시스템을 만드는 쪽에 있다. 국내에서 이 전환을 가장 앞서 실험하는 곳은 어디일까. 현대자동차그룹의 로보틱스랩은 소형 모빌리티 로봇 ‘모베드’, 작업자의 근력을 보조하는 웨어러블 로봇 ‘엑스블 숄더’, 전기차 충전 로봇 ‘ACR’, 여러 로봇을 한꺼번에 운영하는 관제 솔루션 ‘나콘’까지, 로봇을 제품이 아니라 서비스로 넓혀가고 있다. 이곳에서 로봇의 지능을 만들어 온 주시현 로보틱스지능개발실장은 피지컬 AI 에이전트를 “상황과 정보를 이해하고 목표를 안전하게 완수하는 지능”으로 정의한다. AI가 몸을 가지면 무엇이 가능해지고, 무엇이 한계로 남을까. 그 답을 듣기 위해 주시현 상무를 만났다. 로봇이 아니라 로보틱스를 연구한다 Q. 올해 현대차 로보틱스랩은 휴머노이드 없이 가장 주목받은 로봇 조직이었습니다. 저희는 로봇 제작이 아닌 로보틱스를 연구하는 조직입니다. 로봇 한 대에는 기구와 구동, 배터리, 센서, 제어, AI, 소프트웨어, 안전, 운영이 함께 맞물려야 하는데, 그 총합이 로보틱스입니다. 모베드 같은 제품은 그 기술 체계 위에서 나온 결과물이죠. 지금 공장과 물류센터, 병원에는 고령화와 노동력 부족, 산업 안전, 돌봄 공백 같은 문제가 있고, 로보틱스로 이를 풀고 제품으로 만들어 국내 로보틱스 생태계를 키우는 것이 저희가 하려는 일입니다. 그래서 차별화된 하드웨어를 만들되, 이를 구동하는 AI·제어 같은 핵심 소프트웨어는 반드시 내재화하고, 완제품을 실제 공간에 내보내 피드백으로 다시 고도화하는 ‘러닝 프롬 리얼리티(Learning from Reality)’를 원칙으로 삼고 있습니다. Q. 로보틱스는 자동차보다 다뤄야 할 도메인이 더 많고 넓은 것으로 알고 있습니다. 맞습니다. 워낙 넓다 보니 모든 걸 다 할 수는 없어서, 핵심 기술 7가지를 골라 내재화했습니다. 이 7개 기술은 AI 발전과 궤를 같이합니다. 로봇은 먼저 사람의 근력을 돕는 웨어러블에서 출발해, 무언가를 잡고 다루는 덱스터러스 매니퓰레이터 (Dexterous manipulator), 공간을 스스로 옮겨 다니는 모바일 플랫폼과 자율주행(SLAM·내비게이션)으로 나아갑니다. 그 위에 주변을 보고 사람과 대화하는 비전·랭귀지 AI가 얹히고, 이 모든 연산을 클라우드가 아니라 로봇 안에서 돌리는 온디바이스 AI가 처리합니다. 챗GPT는 클라우드에서 돌아도 되지만, 제한된 배터리로 이동하며 실시간 반응해야 하는 로봇은 연산을 몸 안에 넣어야 하거든요. 그리고 일곱 번째가 가장 멀리 내다본 기술입니다. 로봇 한 대를 잘 만드는 것을 넘어, 여러 대를 하나의 서비스로 묶어 운영하는 플릿·태스크 매니지먼트인데요. 저희가 자체 개발한 다종 로봇 통합 관제 솔루션 ‘나콘’이 그 결과물입니다. 순찰·배송·관수 로봇을 한꺼번에 오케스트레이션하고, RAG와 MCP 같은 기술을 붙여 운영 데이터에서 이상 사례를 스스로 골라 운영자에게 자동으로 리포트를 줍니다. 결국 이 일곱 번째가 로봇을 ‘제품’에서 ‘서비스’로 넘기는 다리인데, 저희가 궁극적으로 가려는 방향이 바로 거기에 있습니다. 이 7개 위에서 작업자의 근력을 보조하는 웨어러블 로봇 ‘엑스블 숄더’, 자유롭게 방향을 바꾸는 소형 모빌리티 플랫폼 ‘모베드’, 전기차를 자동으로 충전하는 ‘ACR’이 차례로 나왔습니다. 디지털은 정확도, 피지컬은 복원력 Q. ‘말하고 인식하는 AI’에서 ‘움직이고 행동하는 AI’로 옮겨오며 가장 크게 느낀 차이는 무엇인가요. 디지털 세계의 AI는 틀리면 다시 질문하면 그만이지만, 움직이는 AI는 틀리면 부딪히거나 멈추거나 위험해진다는 큰 차이가 있습니다. 정리하면, 디지털 환경의 AI가 정보의 생성과 답변을 도왔다면 아날로그 환경의 피지컬 AI는 현실의 일을 직접 돕는 단계입니다. 그래서 두 가지를 절감했습니다. 첫째, 현실 세계는 디지털보다 훨씬 불완전하고 예측이 안 됩니다. 조명과 날씨, 바닥 상태, 사람의 동선 같은 변수가 실시간으로 바뀌거든요. 둘째, 그래서 정확도만으로는 부족합니다. 한 번 잘하는 것보다 매일 반복해서 안정적으로 잘하는 것, 실패했을 때 다시 복원해내는 능력이 더 중요합니다. 결국 움직이는 AI는 모델 성능의 문제가 아니라 인지·판단·제어·구동·안전이 하나로 연결된 시스템의 문제입니다. Q. 불과 몇 년 전만 해도 로봇이 두 발로 걷는 것조차 큰 뉴스였는데, 지금은 공중제비를 돌고 춤을 춥니다. 기술의 한계를 넘어선 도약처럼 보입니다. 한계를 넘어선 것부터 말씀드리면, 화려한 모션 자체입니다. 예전에 로봇의 걸음과 균형은 옵티멀 컨트롤, MPC 같은 제어 이론으로 잡았는데, 이건 몇 년씩 전공한 기계공학자만 다룰 수 있는 높은 벽이었습니다. 그런데 강화학습과 모방학습이 들어오면서 그 벽이 무너졌어요. 기계공학을 전공하지 않은 사람도 참여할 수 있게 됐고, 기존 방식으로는 안정성을 잡기 어려웠던 공중제비나 격렬한 2족 보행을 AI가 해냅니다. 다만 아이러니하게도, 사람이 하기 힘든 건 로봇이 잘하고 사람이 하기 쉬운 건 로봇이 못합니다. 비보잉은 사람보다 잘하는데, 서너 살 아기도 하는 ‘집어서 옮기기’ 같은 컨택트 리치(contact-rich) 작업은 아직 한계가 많습니다. 쿵푸나 공중제비는 사람이 모션 슈트로 보여준 동작을 따라하는 모방 학습이고, 물구나무서 중심을 잡는 건 미션만 주고 수없이 넘어지며 익히는 강화 학습입니다. 실물은 넘어지면 부서지니 시뮬레이션에서 배우는데, 그 결과를 현실로 옮기는 심투리얼(sim-to-real) 갭이 여전히 큽니다. 피지컬 AI 에이전트 Q. 현재 피지컬 AI 에이전트는 어떤 단계입니까. LLM (Large Language Model) 수준의 완성형은 없습니다. VLM (Vision-Language Model)은 트랜스포머라는 정답론 위에서 고도화하지만, 피지컬 AI는 지금 방식이 정답이냐부터 논쟁 중입니다. 다만 에이전트를 어떻게 정의하느냐가 우선돼야 하는데, 제가 보는 피지컬 AI 에이전트는 단순히 동작을 잘하는 AI가 아니라, 상황과 정보를 이해하고 목표를 안전하게 완수하는 실행형 지능입니다. 목표를 주면 스스로 판단하고 계획을 세워 행동한다는 기준에서의 부분적인 피지컬 AI 에이전트는 이미 현대차 곳곳에서 일하고 있습니다. 양재 본사 순찰 로봇은 정해진 경로를 돌면서 카메라로 이상을 감지해 스스로 운영자에게 알립니다. 관수 로봇은 화단의 3차원 공간을 인식해 식물을 상하지 않게 물 줄 위치와 개수를 그날그날 다르게 판단하고, 배송 로봇은 엘리베이터에서 장애인에게 양보하고 혼잡도에 따라 배송 순서를 동적으로 바꿉니다. 정해진 규칙을 따르는 게 아니라, 상황을 인지해 스스로 계획을 다시 짜고 있습니다. Q. AI 에이전트가 화면을 벗어나 일상으로 들어올 때 필요한 요건은 무엇인가요. 에이전트는 로봇을 ‘시키는 대로 움직이는 기계’에서 ‘목표를 이해하는 시스템’으로 바꾸는 전환의 계기일 뿐, 그 필요성은 적용처와 목적에 따라 갈립니다. 공장에서 제일 중요한 건 복원력이 아니라 99.999%의 정확도로 24시간 멈추지 않고 최적의 속도로 일하는 것입니다. 공장에서는 융통성 있는 에이전트보다 20초 작업을 15초로 줄여주는 신뢰성 있는 로봇을 요구합니다. 에이전트의 다음 목표는 서비스 영역입니다. 고객은 365일 최적의 속도보다, 한 번 맡기면 신경 쓰지 않아도 임무를 해결해주는 완결성을 원하거든요. 물건을 놓쳐도 다시 잡고, 30분이 걸려도 믿고 맡길 수 있는 완성도, 속도가 아니라 안정성과 복원력입니다. Q. 자율성을 사회가 받아들이는 데는 시간이 필요할 텐데요. 가장 유사한 선례가 자율주행입니다. 통계적으로 사고율이 인간보다 낮은데도 신뢰를 얻기까지 10여년이 걸렸습니다. AI 에이전트는 2~3년이 채 안 걸렸어요. 예전에는 엔지니어들이 AI 검색 결과를 별도 검색해 교차 확인했는데, 지금은 많은 엔지니어들이 별도 검증 없이 AI를 먼저 믿을 만큼 신뢰가 쌓였고, 로보틱스랩에서도 개발자가 직접 작성한 코드보다 AI 에이전트를 활용해 개발한 코드가 더 많습니다. 로봇도 같은 절차를 밟을 겁니다. 엔지니어가 복원력과 안정성을 수치로 제시하고, 검증으로 신뢰성을 만들고, 고객의 신뢰가 쌓이는 것이죠. 몸을 가진 로봇은 사람과 닮아 있어 자율주행보다는 빠를 거라고 봅니다. 로보틱스 산업의 미래, 그리고 인간의 역할 Q. 로보틱스랩의 연구가 궁극적으로 추구하는 것이 있습니까. 네. 결국 서비스입니다. 궁극적으로는 라스(RaaS, Robot as a Service)고요. 애플이 앱스토어를 만든 것처럼 서비스를 만들 기술과 컴포넌트를 제공해 누구나 조합하게 하는 거죠. AI 업계가 더 이상 할루시네이션 수치가 아니라 클로드 코드 같은 ‘어떤 기능을 제공하느냐’로 경쟁이 넘어간 것처럼, 로보틱스도 같은 전환이 옵니다. 나콘을 저희 로봇만이 아니라 보스턴 다이내믹스의 스팟까지 붙는 개방형으로 설계한 것도 그 포석입니다. Q. 휴머노이드의 두뇌가 될 대형모델 경쟁은 사실상 미국과 중국의 싸움처럼 보입니다. 그 틈에서 현대차와 한국 로보틱스가 발견한 승부처는 어디입니까. 한국이 이길 수 있는 자리는 온디바이스 AI에 집중하는 것입니다. 온디바이스의 본질은 최적화인데, 이 부분은 한국이 굉장히 강합니다. 모베드 안에도 딥러닝이 들어가는데, 이를 더 낮은 비용과 전력으로 구동되도록 최적화하고 있습니다. 제한된 배터리로 이동하며 실시간 반응해야 하는 로봇의 특성과, 한국이 잘하는 것이 정확히 맞물리는 지점이죠. 회사 차원의 강점도 여기에 보탬이 됩니다. 하드웨어부터 소프트웨어, 디자인, 부품, 통합, 사업까지 한 조직에 다 갖춘 회사는 국내에 몇 없습니다. 여기에 자동차 도메인이 더해져 품질본부가 로봇에 맞는 테스트 프로토콜을 새로 짜 평가해주고 부품 밸류체인과 OEM 체계 덕에 신뢰성 높은 부품을 합리적 가격에 씁니다. 자사 공장이라는 내부 캡티브 마켓(Captive Market)이 있어 검증을 속도감 있게 할 테스트베드도 넘치고요. Q. AI가 인간의 이해 범위를 넘어서는 시대입니다. 이런 시대에 인간의 역할은 무엇이고, 로보틱스에 뛰어들려는 젊은 개발자들이 유념해야할 것은 무언입니까. AI가 사람을 일에서 자유롭게 해주지는 않을 겁니다. 인간의 야망은 커서 그 속도에 맞춰 더 많은 것을 만들어냅니다. AI를 쓰지 않는 사람이 쓰는 사람으로 대체될 뿐이죠. 제가 생각하기에 마지막까지 남을 것은 세 가지입니다. AI가 하는 일의 목적을 설정하고, 책임의 범위를 확정하고, 결과의 옳고 그름을 판단하고 결정하는 것. 자율주행 사고율이 인간보다 낮아도 판단권이 사람에게 있는 것처럼요. 로보틱스에서는 기계·제어·소프트웨어가 따로 놀던 경계가 AI가 들어오며 사라지고 있습니다. 하드웨어를 안 만져본 사람이 그 특성을 이해해 시뮬레이션에서 강화학습을 돌리고, 기구만 만들던 분이 AI를 익히죠. 젠슨 황이 60년 된 폰 노이만 아키텍처(메모리와 연산장치 사이를 오가며 데이터를 처리하는 기존 컴퓨터 구조)를 넘는 새 컴퓨팅을 말하듯, 로보틱스는 물리 하드웨어가 결합된 새로운 컴퓨팅을 만드는 영역입니다. 화려한 데모보다 안정성과 복원력과 신뢰성이 작동하는 시스템을 만드는 일이 더 어렵고 더 가치 있습니다. 젊은 개발자들에게는 이 말을 하고 싶습니다. 디지털 세상이 아니라 현장에서, 매일 검증하는 사람들과 같이 부딪혀야 합니다. 돌아보니 오래 가는 개발자는 현실의 복잡함을 끝까지 견디며 소통하는 사람들이었습니다. 천재가 아닌 대다수 엔지니어에게 필요한 건 꾸준함입니다. 젠슨 황도 지금의 위치에 오르기까지 33년이 걸렸으니까요. 주시현 상무는 오디오·디지털 신호처리 기반 머신러닝을 전공하고 현대자동차 중앙연구소에 입사해 차량 내 제스처·필기 인식 기술을 연구했다. 제네시스의 필기 인식 조작계가 그 결과물이다. 2018년 로보틱스 팀 출범과 함께 로봇 도메인으로 옮겨 2019년 로보틱스랩 설립에 참여했으며, 현재 로보틱스지능개발실을 이끌며 모베드·엑스블·ACR 등의 AI·소프트웨어 개발을 주도하고 있다.
2026.07.13 0 48
- 대학 홈페이지 add
- 대학원 홈페이지 add
- 부속/부설기관 홈페이지 add
본 웹사이트에 게시된 이메일 주소가 전자우편 수집 프로그램이나 그밖의 기술적 장치를 이용하여 무단으로 수집되는 것을 거부하며, 이를 위반시 정보통신망법에 의해 형사처벌됨을 유념하시기 바랍니다.