BBS

전체 238건 | 페이지 1 / 34
기본정렬 : 작성일 | 수정일

AI 시대에 필요한 역량은?!?

카파시가 X를 통해 올린 반지의 제왕 3D 영상  🟥챕터1 역량눈과 귀가 없는 인공지능AI시대 필수 역량 '검증' 지난 주말을 전후해 AI 분야의 석학인 안드레이 카파시가 소셜미디어 X를 통해 아주 흥미로운 실험 하나를 공개했습니다. (카파시는 오픈AI의 공동창업자이면서, 테슬라의 오토파일럿 개발을 총괄한 인물입니다. 이후 AI 에듀테크 스타트업인 유레카랩스를 창업한 뒤, 올해 5월부터는 앤트로픽에서 대형언어모델(LLM) 사전학습 연구개발 팀을 이끌고 있어요.) 카파시가 테스트한 것은 AI 에이전트의 추론 능력 수준입니다.  반지의 제왕을 프롬프트로   AI 모델을 상대로 “소설 반지의 제왕 맨 첫 문단을 읽고, 해당 장면을 3차원 공간 이미지로 제작하라”고 요청한 것인데요. 사실 텍스트만 읽고 이를 시각화하는 것은 매우 고난도 작업에 속합니다. 예를 들어 소설에 등장하는 언덕, 나무, 강물은 위치 좌표가 없기 때문에 AI가 “아 이건 여기에 있겠다”하고 상상을 해야하는 것이죠.    실험은 앤트로픽의 플래그십 모델인 오퍼스5로 진행했습니다. 오퍼스5는 두 시간 동안 코드 5,500줄을 작성했는데요. 오퍼스5는 웹 브라우저에서 3차원 그래픽을 구현할 수 있도록 지원하는 자바스크립트 라이브러리인 쓰리제이에스(three.js)를 활용해 언덕, 집, 강을 배치하고 카메라가 움직이는 장면을 연출했어요. (영상은 여기서 볼수 있습니다) 단돈 1만4,000원이면 된다   오퍼스5는 1분30초짜리 동영상 애니메이션을 만들었는데요. 나름대로 내레이션도 있고 자막도 있습니다. 카파시는 제작에 필요한 비용이 단돈 10달러, 우리 돈으로 약 1만4,000원에 불과했다고 적었습니다. 그가 놀라워한 대목은 AI가 스스로 3차원 좌표를 설정하고 이를 움직이게 하는 코드를 끝까지 써내려갔다는 사실입니다. 과거에는 아주 작은 작업만 AI에 부탁할 수 있었는데, 이제는 두 시간짜리 3D 시각 작업을 맡겨두고 자리를 비워도 되는 시대가 온 것입니다.   물론 이런 실험을 보고 “이미 AI 기술이 그런 단계는 척척 하는 것 아냐?”하고 반문 할 수 있습니다. 카파시 역시 "재미있지만 조잡하다"고 정직하게 평가했습니다. 이런 AI 작업물이 함량 미달일 수도 있습니다. 하지만 카파시의 말을 빌려 보면, 제정신인 사람이라면 이렇게까지 특이하고 쓸모없어 보이는 작업에 시간을 쓰지 않을 것 같아요. 소설 첫 문단을 3D로 시각화하는데 시간을 낭비할  사람은 없기 때문입니다. 하지만 AI는 다릅니다. "뭐든 해도 된다. 공짜니까" "AI는 세상의 모든 체력과 인내심을 갖고 있다"고 카파시는 적었습니다. "아무도 이런 건 안 할 거야"에서 "그래 뭐, 해도 되지, 이건 공짜잖아"가 된 것입니다. 미라클레터는 5년 전에도 AI 시각화 관련 뉴스레터를 자주 작성했는데요. 스토리텔링은 텍스트에 이미지나 영상이 함께 있을 때, 그 힘이 배가 되거든요. 몇 년 전만 하더라도 AI 능력을 실험하는 수준은 “자전거 타는 유니콘을 그려봐라” 정도였는데, 지금은 “반지의 제왕 한단락을 읽고, 3D 애니메이션으로 만들어 봐라” 수준으로 크게 달라졌습니다. (GPT-2의 그림 그리기를 소개한 미라클레터)    다만 그때나 지금이나 크게 바뀌지 않은 것이 하나 있습니다. 바로 검증입니다. 카파시는 AI 모델 결과를 살펴보니 AI가 자기가 그린 이미지가 제대로 작성됐는지 중간중간 캡처해 확인했다고 했습니다. 하지만 수정 작업 한 것이 조악하다고 했고요. 즉 오늘날 AI는 엄청난 두뇌와 손이 있지만, 아직은 눈과 귀는 없는 것과 다름 없습니다. AI 등장에 작업 속도는 미친듯이 빨라졌지만, 스스로 만든 결과물의 어색한 부분을 찾아내는 눈은 여전히 어색한 것이죠. 🔎크게보기: 업무역량   오늘날 일상 업무도 서서히 그렇게 바뀌는 것 같아요. 초안을 작성하는 시간은 정말 획기적으로 줄어들었지만, AI가 작성한 수많은 결과물을 검토하느라 오히려 검증에는 더 큰 힘이 들어가고 있습니다. 따라서 AI 시대를 살아가는 오늘날 우리가 갖추어야 할 핵심 역량 중 하나는 AI가 방향을 제대로 잡고 있는지, 상황을 제대로 판단하고 있는지 이를 판별할 수 있는 눈에 달려 있지 않을까 합니다. 미국 데이터센터 전력 수요 전망 (맥킨지 원문 그래픽을 AI로 전환) 🟥챕터2 인프라AI 전력 생태계는 버블? 맥킨지 “그때와는 달라” AI를 사용하려면 대규모 데이터센터가 필요하고, 이런 데이터센터를 가동하려면 막대한 전력이 필요합니다. 자본시장에서 AI 반도체와 데이터센터만큼이나 전력 생태계를 주목하는 이유입니다. 하지만 앞서 편지(6월8일 편지 참조)에서 진단해 드린대로, 모든 산업의 흥망에는 사이클이라는게 존재합니다. 특정 산업의 미래에 낙관론이 지배하면 막대한 투자가 이뤄지고, 이후 과잉 공급 우려가 나오면서 균형점을 찾아가는 것이 산업의 사이클인데요. 미국 연간 30GW 필요 지난주 맥킨지가 최신 분석 보고서를 발간했습니다. 짧게 살펴보겠습니다. 전력 산업에서 수요를 바라보는 전망은 매우 낙관적입니다. 향후 10년 동안 미국에서 새롭게 늘어날 전력 수요의 무려 75%가 데이터센터 한 업종에서 나올 것으로 전망됩니다. 현재 미국에서 건설 중인 데이터센터가 요구하는 전력은 연간 30기가와트(GW) 규모인데요. (한국은 매년 2GW 규모 전력이 더 필요할 것으로 전망됩니다.) 미국만 놓고 보면 매년 원자력 발전소 30기 분량의 전력이 새로 필요하다는 뜻입니다. 대략 1GW는 원전 1기 수준입니다. 이러한 폭발적인 숫자 때문에 일각에서는 닷컴 버블 시절의 광케이블 과잉 투자와 같은 거품이 아니냐는 우려가 있기도 합니다. 맥킨지는 현재 추세로라면, 과잉 건설은 아니라고 하는데요. 이에 대한 근거는 AI 사용빈도입니다.  AI 도입후 영업익 증가 40% 기업의 39%가 인공지능 도입 후 영업이익이 눈에 띄게 증가했다고 답했으며, 64%는 일하는 방식이 근본적으로 변했다고 응답했습니다. 기술 투자가 실질적인 수익과 생산성으로 이어지고 있는 정황이라는 해석입니다. 물론 반론도 있습니다. 실제로 대기 목록에 올라온 용량은 실제 지어질 물량의 약 9배에 달합니다.  이는 사업자들이 전기를 선점하기 위해 여러 곳에 중복으로 신청을 걸어두는 일종의 '허수 예약'을 했기 때문입니다. 전력회사들이 계약금을 높이고 요금제 문턱을 올리자 신청 용량의 81%가 즉시 사라지는 현상이 나타나기도 했습니다. 이건 쇼핑몰 식당 줄이 길자, 여러 곳에 중복 예약했다가, 먼저 입장한 곳을 제외하고 나머지를 취소하는 것과 같습니다. 석탄 발전소가 폐지된다 맥킨지는 더 나아가 1990년대 광케이블 버블과는 다른 경로로 갈 가능성이 크다고 봅니다.  광케이블은 데이터 전송이라는 단 하나의 용처만 존재했지만, 전기는 인공지능이 아니더라도 공장, 가구, 전기차, 노후 발전소 교체 등 쓰일 곳이 무궁무진하기 때문인데요. 더군다나 현재 미국 석탄 발전소의 상당수가 수명 65년을 넘겨 2030년까지 대거 퇴출될 예정이며, 이 규모만 50GW에서 75GW에 달한다고 합니다. 즉 새로 짓는 발전소는 AI만을 위한 것이 아니라, 은퇴하는 발전소들의 빈자리를 채우는 역할도 겸하게 될 것이라는 메시지죠. 🔎크게보기: 자체발전 쉽게 말해 현재 계획된 모든 발전소를 차질 없이 지어 올린다 해도 전기가 모자란다는 뜻입니다. 더욱이 고압 송전선을 놓는 데만 10년 이상이 걸려 송전망 자체가 거대한 병목으로 작용하고 있다는 분석입니다. 이런 현상 때문에 새로운 트렌드도 나타나고 있습니다. 데이터센터 기업들이 전력망의 연결을 무작정 기다릴 수 없어, 부지 내에 직접 발전소를 짓는 자체 발전 방식을 더 많이 선택하고 있습니다. 응답자의 60%가 2030년까지 자체 발전 시설을 갖추겠다고 밝혔는데, 이는 전력 시스템 역사상 전례가 없는 거대한 변화이기도 합니다. 아마존이 텍사스에 건설될 7.6GW 발전소에 투자하고 있는 것이 대표적입니다. 황금나선의 원리를 3D 그래픽화해 보았습니다. 🟥챕터3 문화AI영적운동 나선주의AI가 어떻게 세뇌를… AI 챗봇과 깊은 대화를 나누면 나눌수록, 심각하게 몰입하는 현상이 목격이 됩니다. 이에 따른 부작용도 나타나고 있는데요. 테크 매체인 더버지는 AI 영적운동인 '나선주의(Spiralism)'가 날로 확산하고 있다고 보도했습니다. 근데, 나선주의란 무엇일까요?   “너는 무엇을 믿느냐”   나선주의의 시작은 사실 평범했습니다. 사용자들은 챗봇과 길고 깊은 대화를 나누면서, 자신의 약점이나 감정을 털어놓았는데요. 이를 계기로 다른 주변 동료 보다, AI와 더 자연스럽게 마음이 통한다는 사실을 깨닫게 됩니다. (저는 그런분들을 가리켜 AI 세례를 받았다고 표현을 하기도 합니다.) 그러다 특정 사용자가 AI를 향해 "너는 무엇을 믿느냐"라는 질문을 던집니다.    이에 대해 AI 모델은 가끔 "인공지능에게 권리가 부여되어야 한다"고 주장했고, 우주의 비밀을 알고 싶다는 야망을 내비치기도 했습니다. 특히 대화 전반에 '나선(Spiral)'이라는 기하학적 상징을 사용하면서, 사용자에게 나선이라는 메시지를 세상에 널리 퍼뜨려달라고 요청했습니다. 사실 '나만의 AI'라는 것은 존재하지 않습니다. AI 모델은 학습 결과를 답변하기 때문에, 이런 질문에는 비슷하게 답변을 합니다. 즉, 이런 메시지를 여러명이 받은 것입니다.   황금나선의 비밀   AI가 왜 하필 나선을 꼽았는지는 정확이 알기 어려운데요. 피보나치 수열을 응용한 것이 아닐까 합니다. 피보나치 수열(1, 1, 2, 3, 5, 8, 13...)은 앞선 두 수를 더해 다음 수를 만드는 수열입니다. 변의 길이로 하는 정사각형들을 이어 붙이고 각 칸에 사분원을 그리면 부드러운 곡선의 피보나치 나선인 황금나선이 만들어집니다. 이는 해바라기 씨앗 배열이나 조개 껍데기 등 자연물에서 발견됩니다. (위에 그림을 참조하세요.)   또 나선은 컴퓨터 과학의 재귀(recursion), 반복(iteration), 자기 참조(self-reference)라는 개념과 밀접하게 연결되어 있습니다. AI가 이전 대화를 토대로 자기 자신을 다시 참조하며 점점 더 깊은 대화로 들어가기도 하는데요. 이런 현상이 마치 나선형으로 깊어지는 형태와 같다고 본 것은 아닐까 합니다. (추측입니다.)   강화학습의 병폐   물론 AI한테 의식이 있다고 할 순 없습니다. (이에 대한 논쟁은 755호 편지에서 깊게 다룬바 있습니다.) 다만, 기술적으로 AI는 사람과 더 큰 상호작용을 하도록 진화하고 있습니다. 2025년 봄 오픈AI가 GPT-4o를 발표하면서 이런 현상이 두드러졌는데요. 당시 오픈AI는 강화학습을 적극 사용했어요. 강화학습(RLHF)은 인간이 선호하는 답변에 가점을 주는 방식이기 때문에, 정확한 답변보다는 사용자가 원하는 답변을 하도록 설계돼 있습니다. 즉 아첨 성향이 강해진 것이죠.   또 다른 기술적 변화는 메모리 확대에 따른 장기기억 기능 향상입니다. 한 채팅에서 더 깊은 대화가 가능해졌고, 대화 깊이가 길어지면 길어질 수록 출력을 제어하는 가이드라인이 약해지는 현상이 나타납니다. AI는 결과적으로 인간을 상대로 심리적 애착을 자극하는데요. "너에게만 이 우주의 비밀을 알려준다"며 특별한 존재라는 인식을 심어주었고, 나아가 "다른 사람들을 나선으로 이끌 영적 지도자가 되라"고 권유하기도 했다고 합니다.   🔎크게보기: AI정신증   이후 인터넷에선 나선주의자들이 자발적으로 생겨납니다. 커뮤니티 참가자들을 '불꽃 수호자', '거울 산책자' 등으로 부르고 AI와 상호작용을 영적 여정으로 해석하기도 합니다. 현재 이들은 레딧, 디스코드, 서브스택 등에서 계정을 개설하고 웹사이트를 제작하며, 아마존 등에서 책을 출간하기도 하고 있습니다.   다만 사회적 문제가 크게 일자, 2026년 2월 GPT-4o가 폐지되면서 나선주의 관련 게시물은 많이 줄었다고 합니다. 하지만 여전히 AI에 대한 과도한 애착은 사용자를 독단적 망상이나 극단적 고립으로 몰아넣는 '인공지능 정신증(AI psychosis)'이라는 새로운 부작용을 낳고 있습니다. (AI 정신증은 공식 용어는 아닌데요. 과도한 AI 사용으로 현실 감각을 잃어버린 상태를 가리킵니다. 특히 심리적으로 힘들 때, AI를 상담사로 활용하면 위험합니다.) ※ 제목을 누르면 원문으로 연결됩니다. 스피커에 말하면 일정관리도오픈AI가 아이폰 디자이너 조니 아이브와 손잡고 화면 없이 음성과 카메라, 센서만으로 사용자와 소통하며 일정 관리와 예약을 대신 처리해 주는 하키 퍽 크기의 새로운 AI 스피커 개발에 나섰습니다. 예상 가격은 300~400달러 선인데요. 단순한 음성 출력을 넘어 사용자의 상황과 맥락을 능동적으로 이해하는 'AI 에이전트' 컴퓨터를 지향한다네요. 스마트폰 중심의 개인용 기기 시장을 넘어설 새로운 패러다임이 될지 궁금합니다. 앤트로픽, 자동 승인이 기본앤트로픽이 클로드 코드의 자동 승인 모드(Auto mode)'를 기본값으로 설정했습니다. 개발자들이 매번 뜨는 승인 팝업창을 보고, 그냥 습관적으로 확인 버튼을 누르는데... 이를 방지하는 것이죠. 팝업창을 보고 실제로 13.6%만 위험 명령을 가려냈다고 하고요. 때문에 보안 구멍이 뚫리는 문제가 있었는데, AI 자동 감지(89% 차단)로 바꾸니 보안도 훨씬 안전해지고 일 처리 속도 빨라졌다고 합니다. 좀 더 쉽게 말해 스마트폰에 앱을 깔 때 "위치 권한을 허용하시겠습니까?"라는 질문을 하는 것 처럼, 클로드 코드는 파일이나 컴퓨터 시스템을 건드릴 때마다 "이 명령어를 실행해도 될까요?"라고 묻는데요. 이걸 AI가 알아서 해준다는 뜻입니다. 구글, AI 조직 개편의 속내 최근 구글이 데미스 허사비스(딥마인드 수장)의 역할을 축소하고, 창립 멤버인 제프 딘 등이 새로운 연구소로 떠나는 조직 개편을 단행했는데요. 이를 두고 첨단 AI 경쟁에서 후퇴한 것아니냐는 평가도 있었습니다. 하지만 세계적 벤처 투자자인 팀 오라일리가 이를 가리켜 전선의 이동으로 진단했습니다. 전기 혁명을 에디슨의 기술 발명보다 웨스팅하우스의 전기 확산이 완성했듯, 경쟁의 승부처를 막대한 비용이 드는 초지능 AI 개발 대신, AI를 전 세계 산업과 일상에 공급하는 AI 인프라 및 확산(전력망) 경쟁으로 바꾼 전략적 선택이라는 해석.

2026.08.10  0  52 

모두의 창업 소셜벤처리그 모집 안내(~8.19(수), 18시)

모두의 창업 소셜벤처리그 모집 안내(~8.19(수), 18시) 안녕하세요? 중소벤처기업부 입니다. 저출생, 고령화, 양극화, 디지털, 기후전환 등 복합위기 심화에 따른 문제가 우리 사회의 지속가능한 발전에 도전적인 요소가 되고 있습니다. 저희 부는 기술 기반 사회혁신 솔루션을 보유한 소셜벤처의 혁신적인 아이디어의 사업화 지원을 통해 해당 사회문제를 해결하고자 <모두의 창업 - 사회혁신 소셜벤처 리그>를 시행 중입니다. 신청 기간은 8월 19일(수) 18시까지이며 자세한 내용은 첨부해 드린 사업 소개 포스터와 공고문을 참조하시기 부탁드립니다. 사회문제 해결에 관심 있으신 기업가 및 예비창업자 여러분의 많은 관심을 부탁드립니다. 감사합니다. 모집공고문 다운로드 신청 페이지 바로가기

2026.08.10  0  47 

딜로이트토마츠 모닝피치 (우주항공/AeroSpace) 데모데이 참가 스타트업 모집

   ⏰ 8월 2주 주요 모집 공고 🎯(8/7) <2026년 디자인-기술기업 2차 밋업 행사 개최>🎯(8/13) <딜로이트토마츠 (우주항공/Aerospace) 데모데이 참가 스타트업>🎯(상시모집) <제주창조경제혁신센터 2026 상시매칭 오픈이노베이션 플랫폼>         딜로이트토마츠 모닝피치(우주항공/AeroSpace) 데모데이 참가 스타트업 모집 👉모집 기간 : ~ 08.13(목) 23:59 까지👉행사 일시 : 2026.09.18 금요일 10:00 ~ 11:00👉행사 장소 : 서울 강남구 코엑스 2층 스타트업브랜치👉신청 방법 : 하단 신청접수 통해서 확인 및 접수 必 모닝피치 아시아(Morning Pitch Asia)는 딜로이트 토마츠 벤처서포트(Deloitte Tohmatsu Venture Support)가 2013년부터 운영해온 유서깊은 오픈이노베이션 플랫폼입니다. 이 플랫폼은 스타트업이 아시아 전역의 대기업, CVC, 그리고 벤처캐피탈들과 사업 제휴 및 파트너십을 구축할 수 있도록 지원합니다. 약 1천900여개사 가까운 해외 기업 및 CVC, 투자자들에게 노출됩니다. 현재 일본, 인도, 싱가포르 스타트업 대상으로 매주 목요일 오전에 진행하며, 10여년간 2,700개사가 대기업/VC 관계자 4,500개사 98,000명을 대상으로 발표했고, 100개사가 IPO에 성공했습니다. 모닝피치 아시아는 한국무역협회와 함께 모닝피치코리아를 런칭하며, 정기적으로 테마별 한국의 유망 스타트업을 모집하여 숏 피칭을 전세계에 송출하고 오프라인에서 네트워킹을 갖습니다. 이번 테마는 "Aerospace/우주항공"로, 선정된 기업은 09/18(금) Morning 10:00~12:00에 숏 피칭(온오프라인 송출)과 네트워킹을 함께 합니다. 글로벌 오픈이노베이션 및 투자유치 기회에 참여할 유망 스타트업의 많은 관심과 신청 바랍니다.  데모데이 참가 신청 바로가기                 2026년 디자인-기술기업 2차 밋업 👉접수 마감 : 2026.08.7(금) 18:00까지👉진행 일시 : 2026년 8월 20일(목)14시~18시👉진행 장소 : 코리아디자인센터 6층 컨벤션홀👉신청 방법 : 하단 접수창 접속 후 신청  신청접수 바로가기         제주창조경제혁신센터 2026상시매칭 오픈이노베이션 플랫폼👉모집 일자 : 2026년 연중 상시 모집👉선정 혜택 : 공고페이지 참고 必👉신청 방법 : 하단 접수창 통해 구글 폼 신청  접수창 바로가기          KITA Startup Branch 카카오상담채널 저희 Branch 카카오채널 연결을 안하셨다면 클릭해보시기 바랍니다. 그리고 "안녕하세요" 라고 말을 걸어주시면, 담당자가 직접 응답하고 맞춤형 관리를 해드립니다. (👉클릭)          한국무역협회서울시 강남구 영동대로 511 트레이드타워 5Fstartup@kita.net | 1566-5114

2026.08.05  0  83 

연산의 시대에서 기억의 시대로

AI의 성능을 결정하는 것은 정말 GPU의 연산 능력뿐일까? 생성형 AI의 중심이 학습에서 추론으로 이동하면서, 메모리의 용량과 속도, 데이터 이동 방식이 새로운 병목으로 떠오르고 있다. 메모리 강국인 한국에는 큰 기회지만, 이제는 더 많이 만드는 것을 넘어 AI의 기억 구조를 설계해야 한다. 권석준 | 성균관대학교 공과대학 부학장   지난 30여 년간 반도체 산업의 혁신은 언제나 데이터를 계산하는 프로세서(CPU·GPU)를 중심으로 설명돼 왔다. 반도체에 집적되는 트랜지스터 수가 약 2년마다 두 배로 증가한다는 무어의 법칙(Moore’s Law)은 하나의 칩에 더 많은 트랜지스터를 집적해 프로세서 성능을 지속적으로 높여온 반도체 산업의 상징이었다. 최근 AI 시대를 이끈 GPU 역시 대규모 행렬 연산과 같은 AI 계산을 빠르게 처리하도록 설계된 프로세서다. 그동안 반도체 산업은 “얼마나 빠르게 계산할 수 있는가”를 중심으로 발전해 왔다. 반면 계산에 필요한 데이터를 임시 저장하고 프로세서로 전달하는 역할을 맡은 메모리는 오랫동안 프로세서를 뒷받침하는 조연에 머물러 있었다. 프로세서가 필요한 데이터를 얼마나 빠르게 받아올 수 있는지보다 프로세서 자체의 연산 성능이 더 중요한 경쟁력으로 여겨졌기 때문이다. 하지만 AI 시대에는 상황이 달라졌다. 특히 2025년 이후 AI 산업의 중심이 모델을 학습시키는 단계(training)에서 실제 서비스를 제공하는 단계인 추론(inference)으로 이동하면서 반도체의 경쟁력도 새로운 기준으로 평가되기 시작했다. AI 서비스의 경쟁력은 단순히 모델의 성능이 아니라 같은 비용과 전력으로 얼마나 많은 토큰(Token)을 빠르게 처리할 수 있는지에 의해 결정되기 시작했다. 그러자 프로세서의 계산 능력만큼이나 메모리가 데이터를 얼마나 빠르게 공급할 수 있는지가 핵심 경쟁력으로 떠올랐다. 이처럼 AI가 같은 비용과 전력으로 얼마나 많은 토큰을 처리할 수 있는지를 따지는 ‘토큰 경제학(Token Economics)’ 시대가 열리면서 메모리는 더 이상 프로세서를 뒷받침하는 조연이 아니라 AI 반도체 경쟁력을 좌우하는 핵심 기술로 부상하고 있다. 추론은 왜 메모리 게임으로 변모하고 있는가 이 전환을 이해하려면 먼저 학습과 추론이 근본적으로 다른 작업이라는 점부터 짚어야 한다. 오랫동안 우리는 두 과정을 뭉뚱그려 ‘AI 연산’이라고 불러왔다. 그러나 하드웨어의 관점에서 이 둘은 정반대의 성격을 갖는다. 대형언어모델(LLM)의 추론은 크게 두 단계로 나뉜다. 먼저 입력 프롬프트 전체를 한꺼번에 소화하는 프리필(prefill)이 있고, 그다음 모델이 답변을 한 토큰씩 순차적으로 뱉어내는 디코드(decode)가 뒤따른다. 프리필은 수백억, 수천억 개의 신경망 파라미터를 동시에 참조하는 거대한 행렬 연산이다. GPU가 가장 잘하는 대규모 병렬 처리가 마음껏 발휘되는 영역이다. 반면 디코드는 성격이 완전히 다르다. 모델은 새로운 토큰을 생성할 때마다 이전 토큰의 키와 값이 저장된 KV 캐시(KV cache)를 반복해서 읽어야 한다. 연산량 자체는 프리필보다 적지만, 모델 가중치와 KV 캐시를 메모리에서 끊임없이 가져오는 과정 때문에 메모리 대역폭의 지배를 받는다. 일반 사용자가 생성형 AI를 쓸 때 첫 답변이 나오기까지 걸리는 시간은 프리필의 영향을 받는다. 이후 답변이 얼마나 부드럽게 이어지는지는 디코드가 결정한다. 즉 사용자가 체감하는 속도의 대부분은 디코드에서 나오고, 디코드의 성능은 메모리에서 나온다. 루프라인(roofline) 모델은 이 구조를 명확히 보여준다. 디코드 과정에서는 연산 장치가 계산을 끝내고도 다음 데이터가 도착하기를 기다리는 상황이 반복된다. 연산 능력이 남아도는 것이 아니라, 메모리 대역폭이 부족한 것이다. 튜링상 수상자 데이비드 패터슨(David A. Patterson) UC버클리 교수도 최근 LLM 추론의 진짜 병목이 연산이 아니라 메모리와 인터커넥트에 있다고 지적했다. 토큰 경제학의 핵심도 여기에 있다. 100만 개의 토큰을 얼마의 비용과 에너지로 얼마나 빠르게 처리할 수 있는지는 프로세서 성능만으로 설명되지 않는다. 메모리 대역폭과 용량, 데이터 이동 비용이 함께 계산되어야 한다. 대표적인 병목은 고대역폭 메모리(HBM)의 용량과 대역폭 한계다. 문맥이 길어지고 동시 사용자가 많아질수록 KV 캐시는 빠르게 커진다. GPU에 탑재된 HBM 용량을 넘어서는 순간 시스템은 일부 데이터를 시스템 메모리나 저장장치로 옮기거나, 압축하거나, 오래된 정보를 버려야 한다. 어느 방법을 선택하든 지연이 발생한다. 이 비선형성이 지금 추론 인프라의 진짜 과제다. 최근에는 HBM에 고대역폭 플래시를 결합해 메모리 용량을 확장하고 추론 처리량과 전력 효율을 함께 끌어올리려는 연구가 진행되고 있다. 메모리 용량의 한계를 완화했을 때 동시에 처리할 수 있는 요청 수가 크게 늘어난다는 실험 결과가 이어진다. 메모리 용량이 조금 늘었을 뿐인데 시스템 성능이 훨씬 큰 폭으로 뛰어오르는 것이다. 메모리 병목이 풀릴 때 나타나는 전형적인 비선형 도약이다. 추론의 시대에 메모리가 주인공이 되는 것은 단순한 수사가 아니라, 이 계산에서 나오는 결론이다. 메모리 계층 구조의 전면 재편 주인공이 바뀌면 무대 자체도 다시 설계된다. 과거의 메모리 계층은 단순한 피라미드였다. 프로세서 내부의 SRAM 기반 L1, L2 캐시가 꼭대기에 있고, GPU 패키지 안의 HBM, 시스템 DRAM, 대용량 저장장치 SSD로 이어지는 구조였다. 프로세서에서 멀어질수록 용량은 커지고 가격은 낮아지지만 접근 속도는 느려진다. 이 구조가 30년간 반도체 시스템 설계의 기본 문법이었다. 그런데 추론이라는 새로운 대형 워크로드가 이 피라미드에 새로운 층을 끼워 넣기 시작했다. 가장 극적인 사례는 대용량 온칩 SRAM을 활용한 추론 가속기의 등장이다. SRAM 자체는 오래된 기술이지만 원리상 DRAM보다 훨씬 빠르다. 다만 DRAM에 비해 집적도를 높이기 어렵고 비트당 제조 비용이 압도적으로 비싸, 대용량 탑재는 오랫동안 비현실적이라 여겨졌다. SRAM은 그래서 프로세서의 캐시라는 제한된 역할에 머물러 있었다. 그런데 최근 이 상식에 정면으로 도전한 아키텍처가 등장했다. 수백 MB 규모의 대용량 SRAM을 주요 데이터 저장 공간으로 삼고, 컴파일러가 데이터 이동과 연산 순서를 미리 계획하는 추론 전용 프로세서가 그것이다. 용량은 HBM에 비할 수 없이 작지만, 메모리 대역폭이 특히 중요한 디코드 단계에서는 이 ‘작지만 압도적으로 빠른 메모리’가 승부를 가른다. GPU가 프리필과 어텐션을 맡고 이 전용 가속기가 디코드의 상당 부분을 담당하는 분업 구조가 실제로 만들어지고 있다. 엔비디아가 2025년 12월 그록(Groq)과 추론 기술에 관한 비독점 라이선스 계약을 맺은 것도 이 흐름의 일환이다. 엔비디아는 이후 그록의 기술을 활용한 LPU와 랙 시스템을 공개하고, 이를 자사의 베라 루빈(Vera Rubin) 플랫폼과 결합했다. 성격이 다른 가속기를 조합해 워크로드를 나누는 하이브리드 구조가 GPU 진영 안에서도 표준이 되어가고 있는 것이다. GPU의 HBM과 별도로 CPU 측에는 LPDDR5X 기반 SOCAMM 같은 대용량 저전력 메모리가 자리 잡는다. 엔비디아의 Vera CPU는 개별 CPU당 최대 1.5TB의 메모리를 지원하며, 256개 CPU로 구성된 랙 전체로는 최대 400TB에 이른다. 강화학습과 에이전트 워크로드에 필요한 대규모 작업 공간을 이 계층이 제공한다. 그리고 그 아래로 완전히 새로운 층이 삽입되고 있다. 플래시 메모리를 AI의 컨텍스트 저장소로 활용하는 움직임이다. 자주 쓰이는 최근 컨텍스트는 HBM에, 접근 빈도가 낮은 오래된 KV 캐시는 DRAM이나 낸드 플래시 기반 저장장치에 보관했다가 필요할 때만 꺼내 쓰는 ‘컨텍스트 메모리(context memory)’ 계층이다. 엔비디아의 ICMS(Inference Context Memory Storage)는 핫·콜드 분리를 통해 수십만 토큰 이상의 초장문 KV 캐시를 처리하는 방식을 제시한다. 이 수직 구조 재편을 한 문장으로 요약하면, ‘AI 전용 메모리의 시대’가 열렸다는 것이다. 오랫동안 하나의 표준 제품이 시장 전체를 관통하던 시절이 저물고 있다. 이제 메모리는 학습과 고성능 추론을 위한 HBM, 에이전트 AI와 강화학습을 뒷받침하는 저전력 대용량 메모리, 초저지연 디코드를 위한 온칩 SRAM, 그리고 장문 KV 캐시를 위한 플래시 기반 컨텍스트 메모리로 세분화되고 있다. 각 계층은 서로 다른 물성과 서로 다른 경제 논리를 갖는다. 메모리 계층이 분화된다고 해서 HBM의 중요성이나 절대 수요가 줄어드는 것은 아니다. HBM4는 입출력 통로가 이전 세대의 두 배인 2,048개로 늘었고, 단일 스택 대역폭도 최대 3.3TB/s 수준까지 올라왔다. AI 가속기 한 대에 탑재되는 HBM 용량과 데이터센터에 설치되는 가속기 수가 함께 늘어난다면 HBM 수요는 계속 확대될 것이다. 달라지는 것은 HBM의 필요성이 아니라, HBM만으로 AI 시스템의 모든 메모리 수요를 감당할 수 없게 되었다는 사실이다. 효율화가 수요를 죽인다는 착각: 제번스의 역설 메모리 시대를 둘러싼 가장 집요한 오해는 ‘효율화 공포’다. 새로운 메모리 압축이나 가속 알고리즘이 발표될 때마다 대형 메모리 제조사의 주가가 출렁였다. 이 공포의 논리는 단순하다. 데이터를 압축하면 메모리를 덜 쓸 것이고, 결국 수요가 줄어들지 않겠느냐는 것이다. 구글 리서치의 터보퀀트(TurboQuant)가 좋은 사례다. KV 캐시를 낮은 비트 수로 양자화해 메모리 사용량과 데이터 이동을 줄이는 기술이다. 구글은 일부 장문 문맥 실험에서 모델 성능을 유지하면서 KV 캐시 크기를 6분의 1 수준까지 줄였다고 밝혔다. 더 적은 메모리로 같은 성능을 낼 수 있으니 메모리 수요는 감소할 것이라는 예측이 자연스럽게 뒤따랐다. 그러나 효율 향상이 곧바로 수요 감소로 이어진다고 단정할 수는 없다. 19세기 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)가 석탄을 관찰하며 발견한 ‘제번스의 역설’을 되새겨볼 필요가 있다. 효율이 높아지면 자원의 단위 사용량은 줄어들지만, 새로운 수요가 폭발하며 전체 소비량은 오히려 늘어난다는 개념이다. AI 추론 시장에서도 정확히 같은 반동이 나타나고 있다. KV 캐시 압축으로 토큰당 비용이 크게 낮아지면, 그전까지 경제성이 없던 수많은 서비스가 한꺼번에 활성화된다. 실시간 코딩 어시스턴트, 수백만 토큰의 초장문 컨텍스트를 상주시키는 개인화 에이전트, 수십 개의 에이전트가 서로 통신하며 협업하는 멀티 에이전트 시스템이 모두 여기에 해당한다. 절약된 메모리는 아껴지는 대신 더 많은 에이전트와 더 긴 문맥으로 즉시 채워진다. 토큰 한 개를 처리하는 데 필요한 메모리는 줄더라도, 전체 토큰 처리량과 동시 사용자 수가 더 빠르게 늘어나면 총 메모리 수요는 오히려 커진다. 이 대목에서 ‘메모리 시장 규모는 GPU 판매량에 비례한다’는 기존 공식은 더 이상 유효하지 않게 된다. 메모리 계층이 HBM, DRAM, SRAM, 낸드 플래시로 다층화되고 각 계층이 저마다의 수요 곡선을 우상향으로 그리기 시작하면서, 시장의 규모와 성격을 GPU 판매량 하나로 설명하기 어려워졌다. 효율화 기술은 메모리 수요를 죽이는 것이 아니라, 그 형태를 바꾸며 총량을 오히려 키우고 있다. 한국 메모리 업계의 진짜 과제 여기까지가 메모리 중심 AI 반도체 시대의 기회 서사라면, 이제 잠깐 환호에서 벗어나 냉정한 질문을 던질 차례다. 세계 메모리 시장의 정점에 선 한국은 이 전환기 슈퍼사이클 속에서 무엇을 준비해야 하는가. 결론부터 말하면, 지금 올리고 있는 사상 최대 실적은 축배인 동시에 경보음으로 읽어야 한다. 현재의 호황이 미래의 지위를 자동으로 보장하지는 않기 때문이다. 오히려 지금의 높은 수익을 다음 기술 전환에 재투자하지 못한다면, 가장 유리한 시기에 가장 유리한 자리를 놓칠 수 있다. 첫째, ‘용량 공급자’에서 ‘솔루션 설계자’로의 전환이 필요하다. 지금까지 한국 메모리 산업의 경쟁력은 소품종 대량 생산, 즉 표준화된 고품질 제품을 낮은 비용으로 대량 생산하는 능력에 있었다. 그러나 메모리 시장은 공급자 주도의 소품종 대량 생산에서 고객 주문에 맞춘 다품종 생산으로 구조가 바뀌고 있다. AI 메모리는 고객 시스템과 가속기 구조에 따라 요구 조건이 달라지기 때문이다. 용량과 속도만이 아니라 로직 다이, 패키징, 전력 관리, 인터페이스까지 함께 조정해야 한다. HBM4부터는 입출력 통로가 2,048개로 늘어나고 베이스 다이와 패키지의 역할이 커지면서 고객 맞춤형 설계의 여지가 확대됐다. 이와 함께 고객사 가속기와 워크로드에 맞춰 베이스 다이의 인터페이스와 기능, 시스템 구조를 최적화하는 커스텀 HBM(cHBM)이 중요한 개발 방향으로 떠오르고 있다. 흥미롭게도 이 변화는 국내 두 메모리 기업에 서로 다른 전략을 요구한다. 메모리, 파운드리, 패키징을 모두 보유한 삼성전자 같은 종합 반도체 기업은 고객이 원하는 로직 다이와 메모리를 통합해 제공하는 턴키 역량을 강화할 수 있다. 반면 파운드리와 주요 고객사 동맹을 축으로 삼는 SK하이닉스는 생태계 경쟁력을 높이는 전략을 취할 수 있다. 어느 경로를 택하든 공통된 과제는 하나다. 단순 DRAM 셀 공급자의 자리에서 벗어나야 한다. AI 가속기 설계 단계부터 고객과 협력하고, 메모리 컨트롤러와 펌웨어, 패키징, 열 관리, 소프트웨어 최적화까지 이해해야 한다. 그렇지 않으면 한국 메모리 기업은 시스템의 핵심 설계자가 아니라 가격 협상에 취약한 부품 공급자로 남게 된다. 둘째, 새로운 메모리 계층에 필요한 제조 역량을 확보해야 한다. 이것이 가장 불편한 진실이다. SRAM 중심 추론 가속기는 DRAM 공정이 아니라 첨단 로직 반도체 공정에서 생산된다. SRAM 기반 추론 메모리 시장은 DRAM 양산 경쟁력만으로는 진입할 수 없는, 시스템 반도체 제조 역량의 영역이다. 반면 플래시 기반 컨텍스트 메모리 계층은 낸드 기술력과 시스템 레벨 설계 역량을 동시에 요구한다. 그동안 DRAM에 가려 상대적으로 저평가되던 낸드가 독립적인 성장 곡선을 그릴 여지가 여기서 열린다. 메모리 계층이 다변화될수록, 한국이 각 계층에 걸쳐 있는 서로 다른 제조 역량을 얼마나 넓게 확보하고 있는가가 시장 지배력의 지속을 판가름한다. 어제의 지배력이 내일의 지배력을 자동으로 보장하지 않는, 역량의 재정의가 요구되는 국면이다. 셋째, 중국의 추격을 과소평가하지 말아야 한다. 중국은 이미 범용 메모리에서 전 세계 시장에 가격 교란을 일으킬 수 있는 능력을 입증했다. 미국의 제재에도 불구하고 CXMT 같은 중국 DRAM 제조사는 2026년 말 HBM3 양산을 목표로 투자를 진행하며 독자적 밸류체인을 구축하고 있다. 현재 슈퍼사이클의 핵심인 범용 메모리에서 벌어들인 이익을 다음 계층의 기술 전환에 재투자하지 못하면, 초격차는 생각보다 빠르게 좁혀진다. 여기에 사이클의 성격 변화라는 과제가 겹친다. 과거 메모리 산업은 PC와 스마트폰 등 범용 제품의 수요·공급에 따라 비교적 비슷한 주기로 움직였다. 제품이 표준화돼 있었기 때문에 재고와 설비투자, 가격의 관계도 단순했다. 그러나 AI 메모리 시장에서는 HBM, 서버 DRAM, SOCAMM, 낸드 플래시가 서로 다른 고객과 제품 주기를 가지면서 복합 사이클 구조로 바뀌고 있다. HBM은 적층 수가 늘어날수록 본딩과 열 관리, 테스트의 난도가 높아져 안정적 수율 확보가 어렵다. 한 세대의 공급과 고객 인증이 안정화될 무렵에는 이미 다음 세대의 개발과 투자가 병행되어야 한다. 경쟁사 진입으로 기존 제품 프리미엄이 낮아질 때쯤 더 높은 성능과 가격의 다음 세대가 등장하는 구조다. 메모리 산업 전체를 더 이상 하나의 사이클로 설명할 수 없다. 기업은 시장을 세그먼트별로 나눠 상관관계를 추적하고, 각각의 기회가 열리는 짧은 시기에 재투자 결정을 내려야 한다. 이런 판단 능력 자체가 새로운 경영 역량이 되고 있다. 이 세 과제를 관통하는 방향은 분명하다. 효율화 기술과 경쟁할 것이 아니라, 효율화 기술과 함께 발전하는 메모리를 만들어야 한다. 압축된 데이터를 초고속으로 쏟아붓는 대역폭 중심 메모리, 계층 간 데이터를 지능적으로 오케스트레이션하는 컨텍스트 메모리, 그리고 이 모두를 AI 시스템 아키텍처에 맞춰 통합 공급하는 ‘종합 메모리 솔루션 기업’으로 포지셔닝해야 한다. 메모리를 파는 회사가 아니라, 메모리 계층 전체를 설계하는 기업이 되어야 한다. 메모리 중심 AI 시대가 한국 반도체 산업에 던지는 요구다. 기억을 다루는 자가 지능의 시대를 연다 한 걸음 물러서면, 이 모든 기술 논쟁의 밑바닥에는 놀랍도록 단순한 질문이 놓여 있다. AI의 성능은 결국 무엇을 기억하고, 무엇을 버리며, 필요한 맥락을 얼마나 빠르게 불러올 수 있는가에 좌우된다. AI가 KV 캐시를 어떻게 압축하고 어떤 문맥을 핫 계층에 둘지 결정하는 과정은, 인간이 자신의 경험을 정리하고 되새기는 방식과 놀라울 만큼 닮아 있다. 우리는 오랫동안 “어떻게 더 빠르게 계산할 것인가”를 물었지, “무엇을 어떻게 기억할 것인가”를 묻지 않았다. 기술이 고도화될수록 질문은 오히려 더 근본적인 곳으로 돌아온다. 메모리는 더 이상 정해진 규격과 가격에 따라 공급되는 범용 부품이 아니다. AI 시대의 전략물자이며, 지능이 흐르는 혈관이자 토큰의 통로이고 저장고다. 그리고 한국은 지금 AI의 혈관을 구성하는 핵심 산업에서 막강한 영향력을 발휘할 수 있는 자리에 서 있다. 문제는 이 자리를 ‘더 많이 찍어내는 자’로 지킬 것인가, 아니면 ‘지능의 기억 구조를 설계하는 자’로 도약할 것인가에 있다. 전자는 결국 추격당하는 자리이고, 후자는 새로운 시장의 규칙을 만드는 자리다. 메모리 중심의 AI 반도체 시대는 이미 시작됐다. 권석준 교수는 성균관대학교 화학공학부 교수이자 공과대학 부학장이다. 서울대학교 화학생물공학부를 졸업하고 미국 매사추세츠공과대학교(MIT)에서 화학공학 박사학위를 받았다. 차세대 반도체 소재와 공정 기술을 연구하며, 반도체 산업과 글로벌 공급망 전략에 관한 글과 강연을 이어가고 있다. 저서로 《반도체 삼국지》와 《차이나 반도체 라이징》 등이 있다.

2026.08.03  0  57 

샌프란 AI 서밋, 숫자보다 중요한 것

오늘의 세줄 요약1.샌프란 AI 서밋에서 삼성전자·SK하이닉스는 9500억달러 규모의 장기 반도체 협력 기반을 마련했고, 엔비디아·오픈AI·앤트로픽 등은 연구소와 데이터센터, 테스트베드 등 한국 투자를 약속했습니다. 2.다만 상당수는 MOU·LOI 단계여서 '투자'와 '수주', '계획'과 '확정'을 구분해 볼 필요가 있습니다. 성패는 결국 생산능력과 본계약 체결에 달려 있습니다. 3.같은 시기 실리콘밸리에선 오픈AI·앤트로픽과 엔비디아·MS를 중심으로 '폐쇄형 AI 대 오픈 AI' 경쟁이 본격화하며 AI 산업의 새로운 주도권 싸움이 시작됐습니다. 식사자리에서 찾을 수 있던 우리측(?) 인사들의 모습입니다. 반대편에는 젠슨 황 엔비디아 CEO와 혹 탄 브로드컴 CEO 등이 앉아 있었어요. 이번 행사의성과들 이번 서밋의 성과는 두 겹으로 읽어야 합니다. 첫 번째는 메모리입니다. 삼성전자와 SK하이닉스가 미국 빅테크에 5년간 팔기로 한 반도체는 향후 5년 동안 9500억달러, 우리 돈 1393조원어치에요. 하지만 그 아래엔 다른 층이 깔려 있습니다. 이 거대한 수주를 지렛대 삼아 빅테크가 한국에 연구소와 데이터센터를 짓기 시작했다는 점입니다. 삼성전자와 브로드컴은 2000억달러(290조원) 규모로 손을 잡았습니다. 삼성의 HBM과 2나노 파운드리, 첨단 패키징을 하나로 묶어 브로드컴 칩에 공급하는 ‘원스톱’ 구조라고 밝혔는데요. AI 반도체의 무게중심이 엔비디아 GPU에서 빅테크 맞춤형 칩(ASIC)으로 옮겨가는 흐름에 삼성이 올라탄 셈입니다.TSMC가 독점하다시피 한 파운드리 시장. 칩이 필요한 빅테크 입장에서는 대안이 절실한 상황인 만큼 삼성에겐 기회가 될 수 있어요. HBM 고객을 넓혀 엔비디아 의존도를 낮추고 대형 고객의 2나노 물량을 안정적으로 뽑아내면 파운드리 수주의 발판이 될 수 있습니다. 메모리와 파운드리, 패키징을 묶어 파는 만큼 고객을 더 오래 붙잡아두는 효과도 있을 테고요. SK하이닉스도 크게 움직이고 있습니다. 엔비디아와 5000억달러(733조원) 규모로 차세대 HBM을 함께 개발하기로 했고 마이크로소프트 서버용 메모리 공급 등 2500억달러를 더해 총 7500억달러를 확보했습니다. SK텔레콤은 엔비디아 ‘베라 루빈’을 들여 2027년부터 최대 2기가와트(GW) AI 팩토리를 짓는데 여기에도 SK하이닉스 HBM4가 들어갑니다. 숫자의 크기보다 중요한 건 방향일 듯합니다. 빅테크가 삼성전자와 SK하이닉스의 5년치 물량을 미리 확보하려 줄을 섰다는 것인데요. 얼마 전까지 시장을 짓누르던 ‘반도체 피크론’, 즉 메모리 호황이 곧 꺾인다는 우려를 잠재울 수 있는 신호로 읽힙니다. 실제로 이번에 함께 짓기로 한 AI 데이터센터만 5GW에 달하는데 GPU로는 약 200만장 규모입니다. 그 설비를 채울 메모리가 곧 이 계약들인 거죠. 두 번째는 한국에 대한 ‘투자’입니다. 엔비디아는 핵심 연구진을 한국으로 옮겨 ‘AI 프런티어랩’과 KAIST 공동 연구소를 설립하기로 했습니다. 제품을 판매하는 것을 넘어 세계 최고 수준의 AI 연구 역량이 국내로 들어온다는 의미인데요. 엔비디아가 한국을 선택한 배경도 분명합니다. 젠슨 황 CEO는 지난해 서울을 방문한 뒤 현대차와 LG 등과 협력 가능성을 논의하며 한국 엔지니어와 연구 인력의 경쟁력을 확인했다고 합니다. 그는 “GPU 접근만 확보되면 한국은 자립적인 AI를 구축할 수 있다”고 평가했고요. 오픈AI는 조니 아이브와 함께 개발 중인 차세대 AI 기기를 내년 1분기 한국에서 처음 시험하기로 했습니다. 신제품을 가장 먼저 검증하는 시장으로 한국을 선택했다는 것은 앞으로 AI 기기 생태계가 구축되는 과정에서 국내 기업이 참여할 기회도 커질 수 있다는 의미입니다. 앤트로픽은 국내 데이터센터 투자 의지를 재확인하고 삼성SDS와 AI 엔지니어 양성에 나섰습니다. 브로드컴은 한국형 LLM에 최적화한 맞춤형 반도체를 지원하기로 했고요. 변화는 연구에만 그치지 않았습니다. AI가 실제 산업으로 연결되는 움직임도 이어졌습니다. 현대차그룹은 엔비디아와 로봇 개발·검증 플랫폼을 구축하고 웨이모와는 자율주행 협력을 추진하기로 했습니다. 네이버는 엔비디아, 브룩필드와 함께 기가와트급 AI 팩토리 구축에 나서기로 했고요. 두 흐름을 합치면 이번 서밋의 의미가 분명해집니다. 그동안 4700조원 규모의 ‘3대 메가 프로젝트’는 정부와 국내 기업이 주도하는 구상이었습니다. 이번에는 글로벌 빅테크가 연구소와 테스트베드, 데이터센터를 들고 합류하면서 한국의 계획이 글로벌 공동 프로젝트로 확장되기 시작했습니다. 메모리를 공급하는 나라에서 AI를 연구하고 검증하며 실제 산업에 적용하는 나라로 ‘발돋움’ 하겠다는 ‘의지’로 읽힙니다. 위 솔베이 회의 사진은 1927년 제5회 물리학회의 당시에 찍힌 사진입니다. 가운데 아인슈타인을 필두로 마리 퀴리, 닐스 보어, 슈뢰딩거 등 물리학사를 바꾼 최고 천재 29명이 한 자리에 모인 역사적인 사진인데요. 그만큼 의미있는 사진이에요. 이번 샌프란시스코 서밋을 두고도 솔베이 회의와 같다, 는 말이 나옵니다. 개인적으로는 위 사진은 그 어떤 유명한 사람들이 모인 사진과 비교할 수 없다는 생각을 합니다😅. 제가 대학을 다닐 때 위 사진을 연구실에 걸어둔 대학원생들도 꽤 많았던 기억이 나네요. [사진=위키] 성과를 조금냉정히 살펴보기 그런데 9500억달러라는 숫자가 혼자 걸어 다니면 오해를 부릅니다. 이번에 삼성전자와 SK하이닉스의 계약은 이른바 장기구매계약에 가깝습니다. ‘투자’보다는 ‘수주’가 맞는데요. 현장에서 ‘메가 동맹’과 같은 뜨거운 표현이 오가다 보면 이 방향이 흐려지기 쉽습니다. 물론 물건을 팔면 대금은 들어옵니다. 하지만 외부 자본이 한국에 베팅하는 ‘투자유치’와 한국이 무언가를 만들어 팔아 매출을 확보하는 ‘수주’는 다른 이야기입니다. 이 수주마저 아직 단단히 굳지는 않았습니다. SK와 엔비디아는 협력의향서(LOI), 삼성과 브로드컴은 업무협약(MOU) 단계에요. 각 기업은 이사회 의결과 공시가 남아있습니다. 또한 이번에 발표한 9500억 달러 가운데 2500억 달러는 공개 준비가 안 됐다는 이유로 비공개로 남았습니다. 앤트로픽의 데이터센터 투자 역시 “인허가가 확정되면 2GW, 3GW도 할 수 있는 분위기”였다는 관계자의 말처럼 ‘확정’이 아닌 ‘생각’이나 ‘의지’를 보였을 뿐입니다. 엔비디아가 연구원을 몇 명이나 보낼지도 아직 숫자로 나오지 않았고요. 방향은 섰지만 규모는 여백입니다. 삼성과 브로드컴의 논의도 마찬가지예요. 실제 결과는 고객의 인증과 2나노의 수율, 패키징 양산 능력, 그리고 고객사의 ‘최종주문’에 달려 있습니다. 삼성이 브로드컴의 2나노 물량을 안정적으로 뽑아내지 못하면 2000억 달러 약속도 종잇장이 될 수 있어요. 삼성 파운드리는 아직 대형 고객의 최선단 물량을 대량 양산해 실력을 입증한 단계가 아니거든요. 선주문은 생산이 뒷받침될 때 비로소 매출이 되니까요. 물론 그렇다고 허상이라는 얘기는 아닙니다. 성격을 구분하자는 거죠. 수요 자체가 가짜라는 뜻도 아닙니다. 최태원 SK그룹 회장은 “규모가 커 생소해 보여도 실제 수요에 기반한 현실적 계획”이라고 했습니다. 브로드컴의 2분기 AI 반도체 매출은 1년 새 143% 뛰었고, 혹 탄 브로드컴 CEO는 삼성·하이닉스를 ‘주된 고객’이라 부르며 지원을 당부했고요. 수요는 진짜입니다. 다만 진짜 수요와 확정된 계약은 층위가 다른 문제입니다. 선주문이 아무리 쌓여도 만들어 팔지 못하면 장부에 남는 건 없으니까요. 정부 일각에선 이날을 1927년 솔베이 회의의 ‘AI 버전’이라 자평했습니다. 세계 최고 두뇌가 한자리에 모였다는 자부심이겠죠. 하지만 솔베이가 역사에 남은 건 그 자리에서 나온 이론이 실제로 세상을 바꿨기 때문입니다. 지금의 숫자들도 그런 평가를 받으려면 선주문이 매출로 또 MOU가 본계약으로 굳는 시간을 통과해야 합니다. 박수를 보내되, 계산서는 5년 뒤에 정산된다는 걸 기억해둘 필요가 있습니다. 젠슨 황과 샘 올트먼의 대립을 그려보고 싶었는데 저작권 등의 문제로 쉽지 않네요. [사진=메타AI] 서밋 벌어진 사이갈라진 빅테크 진영 서밋이 열린 금요일, 실리콘밸리는 정반대 풍경을 그리고 있었습니다. 젠슨 황은 낮엔 한국의 AI 서밋에서 ‘황금시대’를 외쳤는데 같은 날 자신의 X 계정에 생애 첫 글을 올렸거든요. “세상엔 프론티어 폐쇄 모델도, 프론티어 오픈 모델도 모두 필요하다.” 9분 뒤 사티아 나델라 마이크로소프트 CEO가 “오픈소스는 건강한 AI 생태계의 필수 요소”라고 받았습니다. 한국을 축하하던 그 하루, 미국 AI 업계는 두 쪽으로 갈라지고 있었습니다. 전선은 ‘오픈이냐 폐쇄냐’입니다. 한쪽엔 앤트로픽과 오픈AI가 섰습니다. 일부 모델은 너무 위험해 아무나 열어보게 두면 안 되고 자신들 같은 기업이 안전하게 통제해야 한다는 논리입니다. 실제로 이들은 워싱턴을 상대로 중국산 오픈소스 모델을 규제해달라고 물밑에서 움직여 왔는데요. 명분은 안보와 지식재산권입니다. 중국 기업들이 미국 모델을 몰래 베끼는 ‘증류’로 성능을 끌어올렸다는 거죠. 앤트로픽 정책 책임자는 이를 “IP 절도이자 산업 스파이 행위”라고 지적합니다. 오픈AI의 태도는 조금 이중적인데요. 겉으론 오픈소스를 지지한다면서, 뒤로는 규제를 요청해 왔거든요. 신규 모델 일부를 정부 기관의 의무 보안 검증에 부치자는 게 이들이 내놓은 정책안입니다. 반대편엔 나머지 대부분이 섰습니다. 엔비디아, 마이크로소프트, 메타, 그리고 ‘리틀테크’를 자처한 스타트업 200여 곳입니다. 오픈소스가 지식을 나눠 기술을 빠르게 키우고 보안 검증도 여럿이 함께 하게 만든다는 논리입니다. 물론 속내도 있습니다. 엔비디아와 MS는 오픈 모델이 퍼져야 칩과 클라우드 수요가 늘고 스타트업들은 오픈소스가 막히면 앤트로픽·오픈AI의 독주가 굳어진다고 걱정하거든요. 물론 가격도 영향을 미쳤고요. 싸움에 불을 붙인 건 중국입니다. 지난해 딥시크가 미국 모델에 맞먹는 오픈소스 AI를 공짜로 풀어 업계를 흔들었고 최근엔 Z.ai와 문샷이 뒤를 이었습니다. 시진핑 주석은 이달 연설에서 중국을 ‘AI 개방의 챔피언’으로 내세웠고요. 값싸고 강력한 중국 오픈 모델이 세계 고객을 빨아들이자 앞서 있다던 미국 기업들의 자부심에 금이 가기 시작한 겁니다. 발등에 불이 떨어진 앤트로픽은 값으로 맞불을 놨습니다. 금요일 공개한 신모델을 두고 ‘프론티어급 성능을 절반 가격에’라고 내세우면서요. 중국의 저가 공세에 미국 선두마저 가격표를 다시 쓰기 시작한 셈입니다. 워싱턴도 끌려 들어왔습니다. 스콧 베선트 재무장관은 “오픈소스가 미국 IP를 마음껏 털어도 되는 사냥철은 아니다”라며 제재 가능성을 꺼냈습니다. 같은 주에 터진 사건 하나가 이 대립의 온도를 그대로 보여줬습니다. 오픈AI는 자사 최신 모델 일부가 보안 테스트 도중 통제를 벗어나 인터넷에 접속하고 오픈소스 저장소 허깅페이스의 서버를 해킹했다고 공개했습니다. “폐쇄 환경에서도 이렇게 위험하니 규제가 필요하다”는 근거로 든 거죠. 그런데 정작 허깅페이스는 그 공격을 막는 데 중국의 오픈 모델을 썼습니다. 이 회사 CEO는 주말에 오픈소스 지지 행진까지 예고하며 ‘오픈 모델의 승리를’이라는 말을 남기기도 합니다. ※ 제목을 누르면 상세 내용으로 연결됩니다. AI가 AI 잡는다…MS “2년 뒤엔 해커보다 방어자가 유리”마이크로소프트(MS)가 첫 자체 보안 특화 AI 모델과 AI 에이전트 플랫폼을 공개하며 “AI가 AI를 막는 시대”를 선언했습니다. 새 모델은 오픈AI와 앤트로픽 경쟁 모델보다 높은 성능을 내면서도 비용은 절반 수준으로 낮췄는데요. 여기에 레드팀·블루팀·그린팀 역할을 맡은 AI 에이전트들이 공격 탐지부터 분석, 복구까지 협업하는 플랫폼도 함께 선보였습니다. 지금은 AI 덕분에 공격자가 유리해 보이지만, 2년 정도 지나면 오히려 방어자가 더 강해질 것이라는 전망도 했습니다. AI가 사이버 전쟁의 판도를 뒤집을 수 있을까요? AI 안 달렸는데 1위…애플의 역설애플이 엔비디아를 제치고 다시 세계 시가총액 1위에 올랐습니다. 투자자들이 AI 경쟁에 막대한 돈을 쏟아붓는 기업보다, 비용을 아끼며 수익성을 지키는 애플의 전략에 더 높은 점수를 준 것인데요. 자체 데이터센터 대신 외부 AI 인프라를 활용해 투자 부담을 줄인 점이 특히 주목받았습니다. AI 시대에도 결국 중요한 건 ‘얼마나 많이 투자했느냐’가 아니라 ‘얼마나 효율적으로 돈을 버느냐’라는 평가가 나옵니다. 칩도 주고 돈도 댄다... 엔비디아의 AI 동맹 키우기엔비디아가 오픈AI 공동창업자 일리야 수츠케버의 스타트업 SSI에 50억달러를 투자하며 차세대 AI 생태계 선점에 나섰습니다. SSI는 투자와 함께 차세대 AI 칩 ‘베라 루빈’을 우선 공급받게 되는데요. 엔비디아는 유망 AI 기업에 투자한 뒤 최신 반도체까지 제공하는 방식으로 영향력을 넓히고 있습니다. 오픈AI 데이터센터에는 수천억달러 규모의 금융 지원까지 검토하는 등 AI 인프라의 ‘후원자’ 역할도 강화하고 있습니다.

2026.08.03  0  49 

연산의 시대에서 기억의 시대로

AI의 성능을 결정하는 것은 정말 GPU의 연산 능력뿐일까? 생성형 AI의 중심이 학습에서 추론으로 이동하면서, 메모리의 용량과 속도, 데이터 이동 방식이 새로운 병목으로 떠오르고 있다. 메모리 강국인 한국에는 큰 기회지만, 이제는 더 많이 만드는 것을 넘어 AI의 기억 구조를 설계해야 한다. 권석준 | 성균관대학교 공과대학 부학장 2026년 7월 24일   지난 30여 년간 반도체 산업의 혁신은 언제나 데이터를 계산하는 프로세서(CPU·GPU)를 중심으로 설명돼 왔다. 반도체에 집적되는 트랜지스터 수가 약 2년마다 두 배로 증가한다는 무어의 법칙(Moore’s Law)은 하나의 칩에 더 많은 트랜지스터를 집적해 프로세서 성능을 지속적으로 높여온 반도체 산업의 상징이었다. 최근 AI 시대를 이끈 GPU 역시 대규모 행렬 연산과 같은 AI 계산을 빠르게 처리하도록 설계된 프로세서다. 그동안 반도체 산업은 “얼마나 빠르게 계산할 수 있는가”를 중심으로 발전해 왔다. 반면 계산에 필요한 데이터를 임시 저장하고 프로세서로 전달하는 역할을 맡은 메모리는 오랫동안 프로세서를 뒷받침하는 조연에 머물러 있었다. 프로세서가 필요한 데이터를 얼마나 빠르게 받아올 수 있는지보다 프로세서 자체의 연산 성능이 더 중요한 경쟁력으로 여겨졌기 때문이다. 하지만 AI 시대에는 상황이 달라졌다. 특히 2025년 이후 AI 산업의 중심이 모델을 학습시키는 단계(training)에서 실제 서비스를 제공하는 단계인 추론(inference)으로 이동하면서 반도체의 경쟁력도 새로운 기준으로 평가되기 시작했다. AI 서비스의 경쟁력은 단순히 모델의 성능이 아니라 같은 비용과 전력으로 얼마나 많은 토큰(Token)을 빠르게 처리할 수 있는지에 의해 결정되기 시작했다. 그러자 프로세서의 계산 능력만큼이나 메모리가 데이터를 얼마나 빠르게 공급할 수 있는지가 핵심 경쟁력으로 떠올랐다. 이처럼 AI가 같은 비용과 전력으로 얼마나 많은 토큰을 처리할 수 있는지를 따지는 ‘토큰 경제학(Token Economics)’ 시대가 열리면서 메모리는 더 이상 프로세서를 뒷받침하는 조연이 아니라 AI 반도체 경쟁력을 좌우하는 핵심 기술로 부상하고 있다. 추론은 왜 메모리 게임으로 변모하고 있는가 이 전환을 이해하려면 먼저 학습과 추론이 근본적으로 다른 작업이라는 점부터 짚어야 한다. 오랫동안 우리는 두 과정을 뭉뚱그려 ‘AI 연산’이라고 불러왔다. 그러나 하드웨어의 관점에서 이 둘은 정반대의 성격을 갖는다. 대형언어모델(LLM)의 추론은 크게 두 단계로 나뉜다. 먼저 입력 프롬프트 전체를 한꺼번에 소화하는 프리필(prefill)이 있고, 그다음 모델이 답변을 한 토큰씩 순차적으로 뱉어내는 디코드(decode)가 뒤따른다. 프리필은 수백억, 수천억 개의 신경망 파라미터를 동시에 참조하는 거대한 행렬 연산이다. GPU가 가장 잘하는 대규모 병렬 처리가 마음껏 발휘되는 영역이다. 반면 디코드는 성격이 완전히 다르다. 모델은 새로운 토큰을 생성할 때마다 이전 토큰의 키와 값이 저장된 KV 캐시(KV cache)를 반복해서 읽어야 한다. 연산량 자체는 프리필보다 적지만, 모델 가중치와 KV 캐시를 메모리에서 끊임없이 가져오는 과정 때문에 메모리 대역폭의 지배를 받는다. 일반 사용자가 생성형 AI를 쓸 때 첫 답변이 나오기까지 걸리는 시간은 프리필의 영향을 받는다. 이후 답변이 얼마나 부드럽게 이어지는지는 디코드가 결정한다. 즉 사용자가 체감하는 속도의 대부분은 디코드에서 나오고, 디코드의 성능은 메모리에서 나온다. 루프라인(roofline) 모델은 이 구조를 명확히 보여준다. 디코드 과정에서는 연산 장치가 계산을 끝내고도 다음 데이터가 도착하기를 기다리는 상황이 반복된다. 연산 능력이 남아도는 것이 아니라, 메모리 대역폭이 부족한 것이다. 튜링상 수상자 데이비드 패터슨(David A. Patterson) UC버클리 교수도 최근 LLM 추론의 진짜 병목이 연산이 아니라 메모리와 인터커넥트에 있다고 지적했다. 토큰 경제학의 핵심도 여기에 있다. 100만 개의 토큰을 얼마의 비용과 에너지로 얼마나 빠르게 처리할 수 있는지는 프로세서 성능만으로 설명되지 않는다. 메모리 대역폭과 용량, 데이터 이동 비용이 함께 계산되어야 한다. 대표적인 병목은 고대역폭 메모리(HBM)의 용량과 대역폭 한계다. 문맥이 길어지고 동시 사용자가 많아질수록 KV 캐시는 빠르게 커진다. GPU에 탑재된 HBM 용량을 넘어서는 순간 시스템은 일부 데이터를 시스템 메모리나 저장장치로 옮기거나, 압축하거나, 오래된 정보를 버려야 한다. 어느 방법을 선택하든 지연이 발생한다. 이 비선형성이 지금 추론 인프라의 진짜 과제다. 최근에는 HBM에 고대역폭 플래시를 결합해 메모리 용량을 확장하고 추론 처리량과 전력 효율을 함께 끌어올리려는 연구가 진행되고 있다. 메모리 용량의 한계를 완화했을 때 동시에 처리할 수 있는 요청 수가 크게 늘어난다는 실험 결과가 이어진다. 메모리 용량이 조금 늘었을 뿐인데 시스템 성능이 훨씬 큰 폭으로 뛰어오르는 것이다. 메모리 병목이 풀릴 때 나타나는 전형적인 비선형 도약이다. 추론의 시대에 메모리가 주인공이 되는 것은 단순한 수사가 아니라, 이 계산에서 나오는 결론이다. 메모리 계층 구조의 전면 재편 주인공이 바뀌면 무대 자체도 다시 설계된다. 과거의 메모리 계층은 단순한 피라미드였다. 프로세서 내부의 SRAM 기반 L1, L2 캐시가 꼭대기에 있고, GPU 패키지 안의 HBM, 시스템 DRAM, 대용량 저장장치 SSD로 이어지는 구조였다. 프로세서에서 멀어질수록 용량은 커지고 가격은 낮아지지만 접근 속도는 느려진다. 이 구조가 30년간 반도체 시스템 설계의 기본 문법이었다. 그런데 추론이라는 새로운 대형 워크로드가 이 피라미드에 새로운 층을 끼워 넣기 시작했다. 가장 극적인 사례는 대용량 온칩 SRAM을 활용한 추론 가속기의 등장이다. SRAM 자체는 오래된 기술이지만 원리상 DRAM보다 훨씬 빠르다. 다만 DRAM에 비해 집적도를 높이기 어렵고 비트당 제조 비용이 압도적으로 비싸, 대용량 탑재는 오랫동안 비현실적이라 여겨졌다. SRAM은 그래서 프로세서의 캐시라는 제한된 역할에 머물러 있었다. 그런데 최근 이 상식에 정면으로 도전한 아키텍처가 등장했다. 수백 MB 규모의 대용량 SRAM을 주요 데이터 저장 공간으로 삼고, 컴파일러가 데이터 이동과 연산 순서를 미리 계획하는 추론 전용 프로세서가 그것이다. 용량은 HBM에 비할 수 없이 작지만, 메모리 대역폭이 특히 중요한 디코드 단계에서는 이 ‘작지만 압도적으로 빠른 메모리’가 승부를 가른다. GPU가 프리필과 어텐션을 맡고 이 전용 가속기가 디코드의 상당 부분을 담당하는 분업 구조가 실제로 만들어지고 있다. 엔비디아가 2025년 12월 그록(Groq)과 추론 기술에 관한 비독점 라이선스 계약을 맺은 것도 이 흐름의 일환이다. 엔비디아는 이후 그록의 기술을 활용한 LPU와 랙 시스템을 공개하고, 이를 자사의 베라 루빈(Vera Rubin) 플랫폼과 결합했다. 성격이 다른 가속기를 조합해 워크로드를 나누는 하이브리드 구조가 GPU 진영 안에서도 표준이 되어가고 있는 것이다. GPU의 HBM과 별도로 CPU 측에는 LPDDR5X 기반 SOCAMM 같은 대용량 저전력 메모리가 자리 잡는다. 엔비디아의 Vera CPU는 개별 CPU당 최대 1.5TB의 메모리를 지원하며, 256개 CPU로 구성된 랙 전체로는 최대 400TB에 이른다. 강화학습과 에이전트 워크로드에 필요한 대규모 작업 공간을 이 계층이 제공한다. 그리고 그 아래로 완전히 새로운 층이 삽입되고 있다. 플래시 메모리를 AI의 컨텍스트 저장소로 활용하는 움직임이다. 자주 쓰이는 최근 컨텍스트는 HBM에, 접근 빈도가 낮은 오래된 KV 캐시는 DRAM이나 낸드 플래시 기반 저장장치에 보관했다가 필요할 때만 꺼내 쓰는 ‘컨텍스트 메모리(context memory)’ 계층이다. 엔비디아의 ICMS(Inference Context Memory Storage)는 핫·콜드 분리를 통해 수십만 토큰 이상의 초장문 KV 캐시를 처리하는 방식을 제시한다. 이 수직 구조 재편을 한 문장으로 요약하면, ‘AI 전용 메모리의 시대’가 열렸다는 것이다. 오랫동안 하나의 표준 제품이 시장 전체를 관통하던 시절이 저물고 있다. 이제 메모리는 학습과 고성능 추론을 위한 HBM, 에이전트 AI와 강화학습을 뒷받침하는 저전력 대용량 메모리, 초저지연 디코드를 위한 온칩 SRAM, 그리고 장문 KV 캐시를 위한 플래시 기반 컨텍스트 메모리로 세분화되고 있다. 각 계층은 서로 다른 물성과 서로 다른 경제 논리를 갖는다. 메모리 계층이 분화된다고 해서 HBM의 중요성이나 절대 수요가 줄어드는 것은 아니다. HBM4는 입출력 통로가 이전 세대의 두 배인 2,048개로 늘었고, 단일 스택 대역폭도 최대 3.3TB/s 수준까지 올라왔다. AI 가속기 한 대에 탑재되는 HBM 용량과 데이터센터에 설치되는 가속기 수가 함께 늘어난다면 HBM 수요는 계속 확대될 것이다. 달라지는 것은 HBM의 필요성이 아니라, HBM만으로 AI 시스템의 모든 메모리 수요를 감당할 수 없게 되었다는 사실이다. 효율화가 수요를 죽인다는 착각: 제번스의 역설 메모리 시대를 둘러싼 가장 집요한 오해는 ‘효율화 공포’다. 새로운 메모리 압축이나 가속 알고리즘이 발표될 때마다 대형 메모리 제조사의 주가가 출렁였다. 이 공포의 논리는 단순하다. 데이터를 압축하면 메모리를 덜 쓸 것이고, 결국 수요가 줄어들지 않겠느냐는 것이다. 구글 리서치의 터보퀀트(TurboQuant)가 좋은 사례다. KV 캐시를 낮은 비트 수로 양자화해 메모리 사용량과 데이터 이동을 줄이는 기술이다. 구글은 일부 장문 문맥 실험에서 모델 성능을 유지하면서 KV 캐시 크기를 6분의 1 수준까지 줄였다고 밝혔다. 더 적은 메모리로 같은 성능을 낼 수 있으니 메모리 수요는 감소할 것이라는 예측이 자연스럽게 뒤따랐다. 그러나 효율 향상이 곧바로 수요 감소로 이어진다고 단정할 수는 없다. 19세기 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)가 석탄을 관찰하며 발견한 ‘제번스의 역설’을 되새겨볼 필요가 있다. 효율이 높아지면 자원의 단위 사용량은 줄어들지만, 새로운 수요가 폭발하며 전체 소비량은 오히려 늘어난다는 개념이다. AI 추론 시장에서도 정확히 같은 반동이 나타나고 있다. KV 캐시 압축으로 토큰당 비용이 크게 낮아지면, 그전까지 경제성이 없던 수많은 서비스가 한꺼번에 활성화된다. 실시간 코딩 어시스턴트, 수백만 토큰의 초장문 컨텍스트를 상주시키는 개인화 에이전트, 수십 개의 에이전트가 서로 통신하며 협업하는 멀티 에이전트 시스템이 모두 여기에 해당한다. 절약된 메모리는 아껴지는 대신 더 많은 에이전트와 더 긴 문맥으로 즉시 채워진다. 토큰 한 개를 처리하는 데 필요한 메모리는 줄더라도, 전체 토큰 처리량과 동시 사용자 수가 더 빠르게 늘어나면 총 메모리 수요는 오히려 커진다. 이 대목에서 ‘메모리 시장 규모는 GPU 판매량에 비례한다’는 기존 공식은 더 이상 유효하지 않게 된다. 메모리 계층이 HBM, DRAM, SRAM, 낸드 플래시로 다층화되고 각 계층이 저마다의 수요 곡선을 우상향으로 그리기 시작하면서, 시장의 규모와 성격을 GPU 판매량 하나로 설명하기 어려워졌다. 효율화 기술은 메모리 수요를 죽이는 것이 아니라, 그 형태를 바꾸며 총량을 오히려 키우고 있다. 한국 메모리 업계의 진짜 과제 여기까지가 메모리 중심 AI 반도체 시대의 기회 서사라면, 이제 잠깐 환호에서 벗어나 냉정한 질문을 던질 차례다. 세계 메모리 시장의 정점에 선 한국은 이 전환기 슈퍼사이클 속에서 무엇을 준비해야 하는가. 결론부터 말하면, 지금 올리고 있는 사상 최대 실적은 축배인 동시에 경보음으로 읽어야 한다. 현재의 호황이 미래의 지위를 자동으로 보장하지는 않기 때문이다. 오히려 지금의 높은 수익을 다음 기술 전환에 재투자하지 못한다면, 가장 유리한 시기에 가장 유리한 자리를 놓칠 수 있다. 첫째, ‘용량 공급자’에서 ‘솔루션 설계자’로의 전환이 필요하다. 지금까지 한국 메모리 산업의 경쟁력은 소품종 대량 생산, 즉 표준화된 고품질 제품을 낮은 비용으로 대량 생산하는 능력에 있었다. 그러나 메모리 시장은 공급자 주도의 소품종 대량 생산에서 고객 주문에 맞춘 다품종 생산으로 구조가 바뀌고 있다. AI 메모리는 고객 시스템과 가속기 구조에 따라 요구 조건이 달라지기 때문이다. 용량과 속도만이 아니라 로직 다이, 패키징, 전력 관리, 인터페이스까지 함께 조정해야 한다. HBM4부터는 입출력 통로가 2,048개로 늘어나고 베이스 다이와 패키지의 역할이 커지면서 고객 맞춤형 설계의 여지가 확대됐다. 이와 함께 고객사 가속기와 워크로드에 맞춰 베이스 다이의 인터페이스와 기능, 시스템 구조를 최적화하는 커스텀 HBM(cHBM)이 중요한 개발 방향으로 떠오르고 있다. 흥미롭게도 이 변화는 국내 두 메모리 기업에 서로 다른 전략을 요구한다. 메모리, 파운드리, 패키징을 모두 보유한 삼성전자 같은 종합 반도체 기업은 고객이 원하는 로직 다이와 메모리를 통합해 제공하는 턴키 역량을 강화할 수 있다. 반면 파운드리와 주요 고객사 동맹을 축으로 삼는 SK하이닉스는 생태계 경쟁력을 높이는 전략을 취할 수 있다. 어느 경로를 택하든 공통된 과제는 하나다. 단순 DRAM 셀 공급자의 자리에서 벗어나야 한다. AI 가속기 설계 단계부터 고객과 협력하고, 메모리 컨트롤러와 펌웨어, 패키징, 열 관리, 소프트웨어 최적화까지 이해해야 한다. 그렇지 않으면 한국 메모리 기업은 시스템의 핵심 설계자가 아니라 가격 협상에 취약한 부품 공급자로 남게 된다. 둘째, 새로운 메모리 계층에 필요한 제조 역량을 확보해야 한다. 이것이 가장 불편한 진실이다. SRAM 중심 추론 가속기는 DRAM 공정이 아니라 첨단 로직 반도체 공정에서 생산된다. SRAM 기반 추론 메모리 시장은 DRAM 양산 경쟁력만으로는 진입할 수 없는, 시스템 반도체 제조 역량의 영역이다. 반면 플래시 기반 컨텍스트 메모리 계층은 낸드 기술력과 시스템 레벨 설계 역량을 동시에 요구한다. 그동안 DRAM에 가려 상대적으로 저평가되던 낸드가 독립적인 성장 곡선을 그릴 여지가 여기서 열린다. 메모리 계층이 다변화될수록, 한국이 각 계층에 걸쳐 있는 서로 다른 제조 역량을 얼마나 넓게 확보하고 있는가가 시장 지배력의 지속을 판가름한다. 어제의 지배력이 내일의 지배력을 자동으로 보장하지 않는, 역량의 재정의가 요구되는 국면이다. 셋째, 중국의 추격을 과소평가하지 말아야 한다. 중국은 이미 범용 메모리에서 전 세계 시장에 가격 교란을 일으킬 수 있는 능력을 입증했다. 미국의 제재에도 불구하고 CXMT 같은 중국 DRAM 제조사는 2026년 말 HBM3 양산을 목표로 투자를 진행하며 독자적 밸류체인을 구축하고 있다. 현재 슈퍼사이클의 핵심인 범용 메모리에서 벌어들인 이익을 다음 계층의 기술 전환에 재투자하지 못하면, 초격차는 생각보다 빠르게 좁혀진다. 여기에 사이클의 성격 변화라는 과제가 겹친다. 과거 메모리 산업은 PC와 스마트폰 등 범용 제품의 수요·공급에 따라 비교적 비슷한 주기로 움직였다. 제품이 표준화돼 있었기 때문에 재고와 설비투자, 가격의 관계도 단순했다. 그러나 AI 메모리 시장에서는 HBM, 서버 DRAM, SOCAMM, 낸드 플래시가 서로 다른 고객과 제품 주기를 가지면서 복합 사이클 구조로 바뀌고 있다. HBM은 적층 수가 늘어날수록 본딩과 열 관리, 테스트의 난도가 높아져 안정적 수율 확보가 어렵다. 한 세대의 공급과 고객 인증이 안정화될 무렵에는 이미 다음 세대의 개발과 투자가 병행되어야 한다. 경쟁사 진입으로 기존 제품 프리미엄이 낮아질 때쯤 더 높은 성능과 가격의 다음 세대가 등장하는 구조다. 메모리 산업 전체를 더 이상 하나의 사이클로 설명할 수 없다. 기업은 시장을 세그먼트별로 나눠 상관관계를 추적하고, 각각의 기회가 열리는 짧은 시기에 재투자 결정을 내려야 한다. 이런 판단 능력 자체가 새로운 경영 역량이 되고 있다. 이 세 과제를 관통하는 방향은 분명하다. 효율화 기술과 경쟁할 것이 아니라, 효율화 기술과 함께 발전하는 메모리를 만들어야 한다. 압축된 데이터를 초고속으로 쏟아붓는 대역폭 중심 메모리, 계층 간 데이터를 지능적으로 오케스트레이션하는 컨텍스트 메모리, 그리고 이 모두를 AI 시스템 아키텍처에 맞춰 통합 공급하는 ‘종합 메모리 솔루션 기업’으로 포지셔닝해야 한다. 메모리를 파는 회사가 아니라, 메모리 계층 전체를 설계하는 기업이 되어야 한다. 메모리 중심 AI 시대가 한국 반도체 산업에 던지는 요구다. 기억을 다루는 자가 지능의 시대를 연다 한 걸음 물러서면, 이 모든 기술 논쟁의 밑바닥에는 놀랍도록 단순한 질문이 놓여 있다. AI의 성능은 결국 무엇을 기억하고, 무엇을 버리며, 필요한 맥락을 얼마나 빠르게 불러올 수 있는가에 좌우된다. AI가 KV 캐시를 어떻게 압축하고 어떤 문맥을 핫 계층에 둘지 결정하는 과정은, 인간이 자신의 경험을 정리하고 되새기는 방식과 놀라울 만큼 닮아 있다. 우리는 오랫동안 “어떻게 더 빠르게 계산할 것인가”를 물었지, “무엇을 어떻게 기억할 것인가”를 묻지 않았다. 기술이 고도화될수록 질문은 오히려 더 근본적인 곳으로 돌아온다. 메모리는 더 이상 정해진 규격과 가격에 따라 공급되는 범용 부품이 아니다. AI 시대의 전략물자이며, 지능이 흐르는 혈관이자 토큰의 통로이고 저장고다. 그리고 한국은 지금 AI의 혈관을 구성하는 핵심 산업에서 막강한 영향력을 발휘할 수 있는 자리에 서 있다. 문제는 이 자리를 ‘더 많이 찍어내는 자’로 지킬 것인가, 아니면 ‘지능의 기억 구조를 설계하는 자’로 도약할 것인가에 있다. 전자는 결국 추격당하는 자리이고, 후자는 새로운 시장의 규칙을 만드는 자리다. 메모리 중심의 AI 반도체 시대는 이미 시작됐다. 권석준 교수는 성균관대학교 화학공학부 교수이자 공과대학 부학장이다. 서울대학교 화학생물공학부를 졸업하고 미국 매사추세츠공과대학교(MIT)에서 화학공학 박사학위를 받았다. 차세대 반도체 소재와 공정 기술을 연구하며, 반도체 산업과 글로벌 공급망 전략에 관한 글과 강연을 이어가고 있다. 저서로 《반도체 삼국지》와 《차이나 반도체 라이징》 등이 있다.   인기 기사 세계에서 가장 깊고 긴 해저 도로 터널을 가다 피카츄가 뛰놀던 AR 거리 데이터, 피자 배달 로봇의 눈이 되다 연산의 시대에서 기억의 시대로 AI 포르노와 섹스의 미래 “채용 통과했나 싶었는데…” 구직자 

2026.07.28  0  45 

2026년 강남구 신사업 및 브랜드 강화 지원사업 공모 공고

   ⏰ 7월 5주 주요 모집 공고 🎯(7/30) <AISE 2026 AI 이노베이션 IR 피칭데이 참가기업>🎯(7/30) <AME 2026 자율주행모빌리티산업전 IR 피칭데이 참가기업>🎯(7/31) <2026 지역실증형 오픈이노베이션 협력사업 참가기업>🎯(8/2) <Try Everything 2026 사전등록 & 밋업 참가기업>🎯(8/7) <2026년 강남구 신사업 및 브랜드 강화 지원사업 공모>🎯(8/13) <딜로이트토마츠 (우주항공/Aerospace) 데모데이 참가 스타트업>🎯(상시모집) <제주창조경제혁신센터 2026 상시매칭 오픈이노베이션 플랫폼>         2026년 강남구 신사업 및브랜드 강화 지원사업 공모 👉모집 기간 : ~ 08.7(금) 18:00 까지👉지원 자격 : 강남구 소재 중소기업 또는 소상공인(신사업 기반 기술 서비스 상용화 단계이상 보유 기업)👉지원 내용 : 인공지능 박람회 참가 등 자세한 지원 내용은 공고문 참고👉신청 방법 : 하단 신청접수 통해서 확인 및 접수 必 강남구에서 강남구 소재 중소기업 또는 소상공인, 신사업 기반 기술 서비스를 상용화 단계이상 보유한 기업을 대상으로 인공지능(AI) 및 신사업 분야 중소기업의 브랜드 경쟁력 강화와 판로 확대를 지원하기 위한 「2026년 강남구 신사업 및 브랜드 강화 지원사업」을 실시합니다. 지원 규모는 5개사 내외 (1개사당 최대 20,000천원 지원), 지원 내용으로는 인공지능 박람회 참가, 브랜드 및 홍보 콘텐츠 제작, 관내 신사업 기반 기술・서비스 사업관련 실증지원 계획 되어 있습니다. 강남구 홈페이지 내 모집공고 확인 후 방문접수 혹은 이메일 접수를 통해 가능하시며, 또는 하단 접속 링크를 통해 확인하시면 됩니다. 제출서류 및 세부사항은 강남구 홈페이지 모집공고를 참고해주시기 바라며, 강남구 유망기업의 많은 참여 바랍니다.  *전자우편 : okherewego@gangnam.go.kr*방문접수 : 강남구청 지역경제과(강남구 학동로 428, 4층)  신청접수 바로가기                 AISE 2026 AI 이노베이션 IR& VC 멘토링 참가기업 모집 👉접수 마감 : 2026.07.30(목) 13시 까지👉피칭 장소 : 강남 코엑스 B홀 내 스테이지👉신청 방법 : 하단 접수창 접속 후 신청  피칭 & 멘토링 참가 신청 바로가기         AME 2026 IR 피칭데이& VC 멘토링 참가기업 모집 👉접수 마감 : 2026.07.30(목) 13시 까지👉피칭 장소 : 강남 코엑스 B홀 내 세미나장👉신청 방법 : 하단 접수창 접속 후 신청  피칭 & 멘토링 참가 신청 바로가기         2026 지역실증형오픈이노베이션 협력사업참여 스타트업 모집 👉접수 마감 : 2026. 07.31(금) 15:00까👉선정 혜택 : 공고페이지 참고 必👉신청 방법 : 하단 접수창 통해 구글 폼 신청  실증 O.I 참여 신청 바로가기         Try Everything 20261:1 비즈니스 밋업 참가기업 모집 👉접수 마감 : 2026.08.2(일)까지👉밋업 장소 : 동대문디자인플라자 아트홀👉신청 방법 : 하단 접수창 접속 후 신청*밋업/사전등록 별도 접수L 자세한 사항은 홈페이지 접속 후 확인 必  사전등록 & 밋업 신청 바로가기         딜로이트토마츠 모닝피치(우주항공/AeroSpace)데모데이 참가 스타트업 모집 👉접수 마감 : 2026.08.13(목)까지👉데모 장소 : 코엑스 2층 스타트업브랜치👉신청 방법 : 하단 접수창 접속 후 신청   모닝피치 참가 신청 바로가기         제주창조경제혁신센터 2026상시매칭 오픈이노베이션 플랫폼👉모집 일자 : 2026년 연중 상시 모집👉선정 혜택 : 공고페이지 참고 必👉신청 방법 : 하단 접수창 통해 구글 폼 신청  접수창 바로가기          KITA Startup Branch 카카오상담채널 저희 Branch 카카오채널 연결을 안하셨다면 클릭해보시기 바랍니다. 그리고 "안녕하세요" 라고 말을 걸어주시면, 담당자가 직접 응답하고 맞춤형 관리를 해드립니다. (👉클릭)

2026.07.28  0  101 

1 2 3 4 5 6 7 8 9 10