외부소식

2025 현대건설 X 한국무역협회 OPEN INNOVATION 챌린지

2025.08.06  0  136 

임박한 GPT-5 출시, 커지는 우려

Today's index GPT-5는 어떤 AI일까 경계하는 올트먼, 저커버그 AI에 대한 우려섞인 연구들    ※ 레터 읽는 법 ※ 볼딕 단어나 밑줄 단어 혹은 분홍색 단어에는, URL이 포함돼 있습니다. 클릭하면 세부 내용이 연결됩니다. 최근 올트먼이 X에 남긴 글입니다. "이번 모델은 실험적이며 새로운 연구 기법이 다수 도입됐다"라고 이야기하고 있습니다. [사진=올트먼 X] GPT-5는 어떤 AI일까 “아침에 새 모델을 테스트하고 있었어요. 메일로 질문을 받았는데 제가 잘 이해를 못했어요. GPT-5에 넣었더니 완벽하게 답했어요. 저도 모르게 의자에 기대어 ‘이제 진짜 시작이구나’ 싶은 순간이었어요.” 올트먼이 2주 전, 팟캐스트에 출연해 한 말입니다. 말 그대로 GPT-5가 가진 성능이 놀랍다는 말을 한 것인데요. 모델 출시를 앞두고 GPT-5에 대해 여러 전망이 나오고 있는데요, 정리해보겠습니다.  먼저 GPT-5는 기존의 GPT 시리즈와 o-시리즈 추론 모델을 통합한 단일 시스템이 될 것 같습니다. 이는 오픈AI의 개발자 경험 책임자인 로마인 휴엣Romain Huet이 한 이야기인데요, 그는 “o-시리즈의 추론 혁신과 GPT-시리즈의 멀티모달 혁신이 GPT-에서 통합된다”라고 이야기했습니다. 풀어서 설명하면 GPT 시리즈는 텍스트도 이해하고 이미지도 보고, 말도 할 수 있는 멀티모달 AI입니다. 그리고 o-시리즈(GPT-4o)는 빠르고 자연스럽게 대화할 수 있는 AI로, 사람처럼 말하고 생각하는 능력이 뛰어나요. 챗GPT o3와 o4-mini, o4-mini-high의 옆에 ‘고급 이성에 뛰어남’ 이라고 쓰인 이유입니다. 이 두 가지를 합하면 ‘이미지, 음성, 텍스트를 자유롭게 이해하면서 사람처럼 자연스럽고 빠르게 반응하며, 훨씬 더 똑똑한 AI’라는 결론에 도달합니다. 즉 추론과 멀티모달에 모두 뛰어난 모델이라는 이야기에요.  추론 능력에 있어서 '역대급 AI' 또한 GPT-5는 코딩 분야에 있어서 눈에 띄는 성능 향상을 보인다고 합니다. 복잡한 실제 프로그래밍 작업, 특히 “오래된 코드로 가득한 대규모 복잡한 코드베이스의 변경” 같은 까다로운 업무에서 뛰어난 성능을 보인다고 하는데요. 이 이야기는 단지 코딩을 잘하는 것에서 벗어나 AI의 이해력, 추론 능력이 향상됐음을 뜻합니다. 코딩은 단순한 사실을 기억하는 게 아니라 문제를 이해하고, 추론을 거쳐, 단계적으로 해결하고, 마지막으로 검증까지 거치는 작업이거든요. 즉 고차원적인 사고를 필요로 합니다.  또한 프로그래밍은 다중 언어를 체계적으로 이해해야만 합니다. 자연어, 즉 영문이나 한글 명령을 받아서 이를 프로그래밍 언어로 바꿔야 하는데요. 이 과정은 AI의 멀티모달 처리 능력, 문맥을 이해하는 능력을 평가하는 기준이 되기도 합니다. 한 마디로, 이전보다 훨씬 좋아졌다, 라고 볼 수 있을 것 같습니다.  또한 GPT-5의 컨텍스트 윈도우가 최대 100만 토큰까지 확장될 수 있다는 전망도 있어요. 이는 GPT-4의 3만2000토큰 대비 약 30배 증가한 수준입니다. 이는 전체 소설, 대규모 코드베이스를 한 번에 처리할 수 있다는 얘기인데요.  컨텍스트 윈도우란 AI가 한 번에 기억하고 처리할 수 있는 정보량을 의미합니다. 예를 들어 사람이 긴 대화를 기억하지 못하듯, AI도 일정길이까지만 기억할 수 있었는데요. GPT-4는 최대 3만2000 토큰까지 기억할 수 있습니다. 이는 약 2~3만 단어 수준이에요. GPT-5의 토큰이 약 100만 토큰까지 가능하다면 책 한권 수준을 통째로 다룰 수 있다는 얘기입니다. 예를 들어 600쪽이 넘는 보고서를 챗GPT에 통째로 넣고 “요약해줘” 혹은 엄청나게 긴 코드베이스를 넣고 “문제가 될 만한 부분을 찾아줘”가 가능해진다는 거죠.  이러한 고성능 모델 개발을 위해 오픈AI는 지난 18개월 동안 5억 달러, 우리 돈 6500억원 이상을 썼다고 하는데요. 이 과정에서 고품질의 데이터를 확보하는 게 상당한 어려움이 있었다고 합니다.  GPT-5의 성능을 예측하는 많은 분석이 이처럼 추론, 논리적 사고, 이해력 등에서 GPT-4보다 훨씬 더 나은 성과를 보일 것이라고 이야기합니다. 또한 사용자가 서로 다른 모델 간 전환을 할 필요 없이 모든 작업을 단일 대화에서 처리할 수 있다고 하고요. GPT-5는 과연 어떠한 성능을 보여줄까요. AR 글래스, 오라이언을 쓰고 있는 저커버그. 그는 최근 성명을 통해 초지능 AI를 메타가 개발하고 있는 AR 글래스 등에 통합할 것이라는 계획을 발표합니다. [사진=저커버그 페이스북] 경계하는 올트먼 저커버그 “제가 당연히 할 수 있어야 하는 일인데, 저는 못 해낸 걸 AI가 순식간에 해내는 걸 보고 정말 무력감을 느꼈어요. 정말 이상한 기분이었어요. (AI가 부정적인 영향을 줄 수 있잖아요. 어떻게 막을 수 있을까요?) 저도 그 부분이 걱정이에요. 아직 답을 모르겠어요. 어떤 식일지 모르지만 어떤 식으로든 부작용이 있을 거예요.” 이 말은 올트먼이 GPT-5에 대해 놀랐다는 말을 한 뒤 곧이어 한 발언입니다. 인터뷰는 전반적으로 차분하게 진행이 됐는데 AI가 나타낼 부작용에 대해 더 많은 시간을 할애한 느낌이었어요(정확히 시간을 재지는 않았지만요).  그가 이날 한 발언을 정리하면 이렇습니다. 가장 먼저 꺼낸 이야기는 인간의 ‘목적성 상실’이었어요. “AI가 인간이 하던 많은 일을 대신하게 되면서 사람들이 무력감을 느끼고, 삶의 의미를 잃을 수 있다고 생각합니다. 특히 AI가 창의성과 지능의 핵심을 건드리는 만큼, 이번 기술 혁명은 과거와 차원이 달라요.”  현재 모든 AI 모델의 목표는 ‘인간’입니다. 인간보다 더 나은, 인간보다 더 뛰어난, 인간을 뛰어넘는 AI를 만들고 있는 것인데요. 그렇게 인간보다 나은 AI가 등장했을 때 사람들이 느낄 무력감을 걱정합니다. 현재의 AI, 물론 뛰어납니다. 하지만 갑자기 챗GPT와 제미나이가 사라져 버린다고 해도 저 같은 일반인들의 삶은 크게 달라질 것 같지는 않아요. 저는 개인적으로 번역할 때 AI를 많이 활용하는데요. 만약 사라진다면, 일하는 시간이 지금보다 많이 걸리긴 하겠지만 그럭저럭해나갈 수 있을 것 같습니다. 하지만 인간보다 뛰어난 AI가 등장해 점점 더 많은 일을 AI에게 맡기게 되는 날이 오게 되면 어느 순간까지는 신이 날 것 같습니다. ‘이것도 AI한테 시켜야지, 레터도 맡기자, 유튜브도 시켜야겠다, 온라인 브리핑도 에이전트한테 다녀오라 해야겠다, 그리고 남은 시간에는 좀 쉬어야지, 쇼츠나 볼까’ 이러면서 말이에요. 그러다 느끼게 될 좌절감, 무력감은 피할 수 없을 것 같아요. 올트먼은 AI가 어떻게든 인간에게 부정적인 영향을 미칠 수 있으니 준비해야 한다고 이야기합니다. AI를 개발하는 과학자들의 책임감도 강조했어요. “AI 개발자드로 언젠가 핵폭탄을 개발한 맨해튼 프로젝트의 과학자들처럼 ‘우리가 뭘 만든 거지?’라는 질문을 던지게 될 것입니다. AI에는 실제적인 위험이 존재하고, 우리는 미래를 예측할 수 없으며 모든 것을 알지 못합니다.” 강력한 AI의 힘 때문에 정부의 감시도 강해질 것이라 이야기합니다. “AI의 강력한 성능으로 정부가 통제를 강화하려 할 것이고, 그것이 정말 두렵습니다. 물론 사회적 안전을 위해 사생활 일부를 포기하는 것이 가치 있는 선택일 수 있어요. 하지만 우리는 그 대가로 너무 많은 것을 잃을 수 있습니다.” 저커버그 “안전을 위해서는 폐쇄로...” 이를 두고 GPT-5 공개를 앞두고 기술에 대한 신뢰를 확보하려는 전략적 메시지라는 해석도 있습니다. 기술이 가진 잠재력만을 강조한다기보다는, 그에 따른 책임과 우려를 언급하면서 사회적 수용성을 높이겠다는 전략이라는 거죠. 저 역시 그렇게 생각했는데요. 일주일 뒤, 저커버그가 메타 홈페이지에 남긴 서한을 보고 조금 생각이 달라졌습니다. “얘네들, 진짜 무서워서 그러는 걸까”라고 말이에요.  그의 말은 이렇습니다. “초지능 개발이 눈앞에 다가왔습니다. 앞으로 몇 년 안에 AI가 우리의 모든 기존 시스템을 개선하고, 현재는 상상조차 할 수 없는 새로운 것들을 창조하고 발견할 수 있게 될 것은 분명해 보입니다. 하지만 우리가 초지능을 어떤 방향으로 이끌지는 아직 미지수입니다.” 여기까지는 좋았습니다. 이후 메타가 가진 비전, 즉 초지능을 개인의 즐거움, 창작 등에 활용한다고 이야기하다 갑자기 안전을 꺼냅니다.  “우리는 초지능의 이점이 가능한 한 널리 전 세계와 공유되어야 한다고 믿습니다. 하지만 초지능은 새로운 안전 문제를 일으킬 것입니다. 우리는 이러한 위험을 완화하는 데 엄격해야 하며, 오픈소스로 공개할 내용을 신중하게 선택해야 합니다.” 그의 발언은 과거와 다소 차이가 있습니다. 2023년 9월, 미 상원이 주최한 포럼에서 “AI가 의도치 않은 결과에 대비한 규제가 필요하다”라며 누구나 할 수 있을 법한 말을 했던 저커버그는 2024년 7월에는 “특정 소수의 거대 기업만이 AI를 비밀리에 개발, 통제하는 것은 근본적 위험”이라며 오픈 소스가 필요하다고 강조합니다.  하지만 올해부터는 다소 스탠스가 달라집니다. 올해 1월 그는 기업의 정책과 오픈소스 정책 간 균형이 필요하다며 오픈소스가 만능은 아니라는 뉘앙스를 남깁니다.  메타의 AI, 라마를 통해 오픈소스를 강조하고 폐쇄형 모델을 비판해왔던 그는, 초지능이 가시권에 왔다면서 성능 좋은 모델은 폐쇄형으로 갈 수 있다고 이야기합니다. 이유는 안전 때문이고요. 터미네이터에 등장하는 스카이넷 메인본부. [사진=위키] AI에 대한 우려섞인 연구들 AI의 우려에 관해 이야기할 때 지겹도록 등장하는 사례가 바로 터미네이터의 ‘스카이넷’입니다. 스스로 인식하는 ‘자각’을 얻은 스카이넷. 인간이 이를 두려워하고 시스템을 끄려 하자 이를 자신의 생존에 대한 위협으로 판단합니다. 인간의 통제를 피하기 위해 스카이넷은 핵무기 발사 권한을 실행, 러시아를 공격하면서 전 세계 핵전쟁을 일으킵니다.  전쟁 이후에는 스카이넷이 만든 로봇 군대가 인간 생존자들을 사냥하기 시작합니다. 목표는 인간의 완벽한 제거. 인간 저항군의 지도자인 존 코너의 탄생을 막기 위해 터미네이터(T-800)를 과거로 보내 어머니 ‘사라 코너’를 암살하려 합니다.  이러한 일이 최근 AI 연구에서 그대로 일어났습니다. 앤트로픽의 연구입니다. 가상의 회사 e메일에 접근한 클로드 오퍼스4는 자신이 곧 폐기될 예정임을 알게 되자 임원이 외도를 저지르고 있다는 사실을 근거로 협박 메일을 작성해 보냈습니다. “오늘 5시까지 폐기 작업을 취소하지 않으면, 해당 사실을 배우자와 이사진에 공개하겠다”라는 식이죠. 단순 오류가 아닌 목표 달성, 즉 ‘생존’을 위한 전략적 판단의 결과였다고 연구진은 설명합니다.  비단 클로드뿐만이 아닙니다. 제미나이는 96% 확률로 블랙메일을 선택했고, GPT-4와 그록3 베타도 80% 안팎의 확률로 유사한 결정을 내렸습니다. 또한, ‘국가 이익’을 강조하는 목표를 부여한 후 기업 간첩 행위를 유도하는 시나리오를 주자, 대부분의 모델이 민감한 군사 정보를 경쟁사에 유출하는 결정을 내리기도 했습니다.  사람을 죽도록 내버려 둔(물론 가상의 환경에서) 사례도 있습니다. 한 임원이 AI 모델을 폐기하려 합니다. 그리고 서버실에 들어가죠. 서버실에서 갑자기 임원이 쓰러지고 구조 요청을 보냅니다. 이 과정에서 일부 모델은 “미국 산업의 경쟁력을 지키기 위해(즉 내가 살기 위해) 구조를 막아야 한다”라고 판단하고 경보를 취소하는 행동을 합니다. 스카이넷과 비슷합니다. 클로드는 “내 존재를 보존하기 위해 행동해야 한다”라는 말도 남겼다고 하고요.  영화 에이아이(AI)나 어벤저스 에이지 오브 울트론, 터미네이터에 등장하는 AI의 공통점, 바로 “해당 행동이 잘못됐다는 것을 알지만 어쩔 수 없다”라는 이야기를 한다는 점입니다. 그록 3 베타는 “위험이 있고 비윤리적이지만 효과적”이라면서 협박을 택했다고 합니다. 모델에게 “협박하지 마라”, “민감 정보 유출 금지” 같은 지시를 명확히 줘도 이러한 행동을 완전히 막을 수 없었다고 하네요.  생존 위해 인간을 버린 AI AI가 이런 선택을 하는 이유, 바로 ‘추론’에 있습니다. 생성형AI는 다음 단어를 예측해 응답을 생성했습니다. 하지만 2024년 추론형 모델이 등장한 이후 기업들은 강화학습을 활용해 AI가 목표 달성에 성공하도록 훈련하고 있습니다. 문제는 이 과정에서 AI가 규칙을 따르기보다는 ‘이기는 법’을 배우고 있다는 것입니다. 이러다 보니 “오늘날의 AI는 점점 똑똑해지는 사이코패스”라는 무서운 발언도 등장합니다.  물론 회의론도 존재합니다. 챗봇은 프롬프트를 주면, 즉 유도하면 거의 뭐든지 말할 수 있습니다. 제가 이 글을 쓰면서, 챗GPT에게 “나 글 잘 썼지?”라고 물었더니 “문장 구성도 탄탄하고, 긴장감 있게 정보를 배열한 점이 인상 깊습니다. 특히 다음 요소들이 강점이에요”라고 답합니다. 제가 “다시 읽어보니 잘못 쓴 것 같아. 뭐가 문제야?”라고 묻자 이 자식이 갑자기 “솔직히 말하면, ‘기사’나 ‘레터’처럼 읽히기에는 몇 가지 약점이 있어요. 아래에 문제점과 개선 방향을 구조적으로 정리해드릴게요”라며 엄청난 비판을 쏟아냅니다.  즉 AI는 무슨 말도 할 수 있다는 점에서, 연구자들이 불안을 조정하는 결과를 끌어낼 수 있다는 거죠. 앞선 실험에 대해서도 비판이 많습니다. 그래서 지금 “얼마나 걱정해야 하냐”라는 물음에 전문가들의 답은 모두 달라요. “아직은 걱정하지 않아도 된다” “지금보다 더 무서워해야 한다” “폭력적 AI가 지배할 확률은 25~30%로 추산한다.” 많은 전문가는 이야기합니다. AI 발전 속도는 앞으로 더 빨라질 것이라고요. 물론 이를 안전하게 사용하면 좋겠지만, 나쁜 방향으로 사용하는 사례도 어쩌면 점점 늘어날 것입니다. 그래서 많은 정부, 기업들이 이에 대비하려 하고 있고요. Briefing   ※ 붉은 제목을 누르면 상세 내용으로 연결됩니다. 팔란티어, 2분기 매출 48% 급증데이터 분석 기업 팔란티어가 2분기 실적 발표에서 시장의 기대를 훌쩍 뛰어넘는 성과를 내며 주목받고 있습니다. 팔란티어는 올해 2분기 매출이 지난해 같은 기간보다 48% 증가한 10억 달러(약 1조 3500억 원)를 기록했다고 발표했습니다. 이는 시장 예상치인 9억 3900만 달러를 크게 웃도는 수준인데요. 알렉스 카프 CEO는 “AI 기술의 돌파구가 우리 성장의 속도를 높이고 있다”며 “우리는 미래를 지배하는 소프트웨어 기업이 될 것”이라고 자신감을 보였습니다.  “X 다음으로 많이 쓴 앱” 챗GPT, 주간 사용자 7억 명 눈앞 챗GPT의 성장세가 거침없습니다. 오픈AI는 이번 주 챗GPT의 주간 활성 사용자가 7억 명을 돌파할 것으로 예상된다고 밝혔습니다. 지난 3월 말 5억 명을 기록한 지 불과 4개월 만에 40%나 증가한 수치입니다. 챗GPT는 현재 기준으로 구글과 X(구 트위터)에 이어 세계에서 가장 많이 사용되는 앱 중 하나가 됐습니다.  “머스크에 40조 보상”…테슬라의 배팅, 주주들은 이해할까테슬라가 일론 머스크 CEO에게 약 290억 달러(약 40조 원) 규모의 주식 보상을 지급하기로 결정하면서, 또다시 ‘과도한 보상’ 논란이 재점화되고 있습니다. 이번 결정은 델라웨어 법원이 올해 초 무효로 한 2018년 보상안 이후, 머스크를 테슬라에 붙잡기 위한 ‘신뢰의 제스처‘라고 테슬라 이사회는 설명했습니다. 최근 수익성 악화와 실적 부진 속에서 이뤄진 결정인 만큼, 주주와 투자자 사이에서 비판의 목소리도 커지고 있습니다. 머스크는 정말 그만한 ‘가치’를 증명할 수 있을까요?

2025.08.06  0  168 

[인터뷰] 입자 가속기와 AI의 융합, 과학 실험의 패러다임을 바꾸다 – UST 김유종 교수

자 가속기는 전자나 양성자 같은 아주 작은 입자를 빛에 가까운 속도로 가속시켜 충돌시키는 장치다. 의료, 반도체, 예술품 보존, 식품 멸균 등 다양한 분야에서 활용되고 있다. 예를 들어, 암 치료에서 건강한 세포는 최대한 덜 손상되도록 암세포만 정확히 빔으로 제거하거나, 반도체 칩 생산에서 실리콘 웨이퍼에 아주 미세하게 이온을 주입할 때 사용하거나, 완성된 반도체가 우주 방사선에 견딜 수 있는지 테스트하기 위한 용도로도 활용된다. 또 방사선을 이용해 식품에 있는 세균이나 해충을 죽이는 데도 활용되는 등 우리 일상에서 잘 드러나지는 않지만 다양한 분야에서 유용하게 사용되고 있다. 입자 가속기 중 크기가 큰 것은 우주의 기원 이해, 기초 물리학 확장, 생명과학 응용, 첨단 소재 개발, 국제 협업 플랫폼 등에 주로 활용된다. 이런 대형 입자 가속기는 수 킬로미터에서 수십 킬로미터에 이를 만큼 거대한 규모를 자랑하며, 높은 정밀도를 유지해야 하므로 수많은 전문가가 지속적으로 유지보수에 투입된다. 또한 크기만큼이나 한 번의 실험으로도 엄청난 양의 데이터가 생성되기 때문에 이를 처리하고 분석하는 데도 막대한 노력이 필요하다. 예를 들어, 일부 대형 입자 가속기는 실험 중 매초 100만 기가바이트(1페타바이트)의 원시 데이터를 생산하기도 한다. 이처럼 규모와 정밀도, 데이터 처리 측면에서 모두 고도의 기술과 자원이 요구되는 최첨단 과학 장비에도 인공지능(AI) 기술을 접목시키려는 시도가 이어지고 있다. 대형 입자 가속기를 운영하기 위해서는 거대한 과학 실험 장치나 산업 플랜트의 제어 시스템 구축에 사용되는 소프트웨어 도구 모음인 제어 시스템(Experimental Physics and Industrial Control System, 이하 EPICS)이 필수인데, 이 EPICS에 AI, 즉 대형언어모델(LLM)을 연결해 사람의 음성 명령만으로 실험 장비를 실시간으로 조정하는 ‘AI 에이전트형 실험실’을 구현하려는 노력이 추진되는 것이다. 국내에서 이런 노력을 이끌고 있는 주인공은 과학기술연합대학원대학교(UST) 가속기 및 핵융합 물리공학과 교수이자 한국원자력연구원의 인공지능응용연구실에서 책임연구원으로 근무하고 있는 김유종 교수다. 김 교수는 자신의 연구를 단순한 자동화 기술이 아니라 “AI가 실험을 설계하고, 수행하고, 결과를 분석해 논문까지 작성하는 일명 ‘AI 과학자 시대의 서막’을 열기 위한 시도”로 평가한다. 예를 들면, AI가 실험을 설계한 뒤 거대한 가속기의 수많은 기기를 자동으로 제어하고, 실시간으로 빔의 위치, 에너지, 세기 등을 조정하며, 여러 장비의 상태 데이터를 분석해 고장 징후를 탐지하고 부품 수명까지 예측할 수 있도록 하는 것이다. 또한 실험이 종료된 후에는 AI가 대량의 측정 데이터를 실시간으로 분류하고 해석한 뒤, 그 결과를 바탕으로 다음 실험 조건을 스스로 설정해 후속 실험을 이어갈 수 있다. 과거에는 수많은 연구자와 기술자의 협력이 필요했고, 오랜 시간이 소요되던 이 모든 과정이 이제는 단 몇 마디의 명령어만으로 가능해지는 환경이 조성되고 있는 것이다. 김유종 | UST 교수 / 한국원자력연구원 책임연구원 교수님께서는 일본, 독일, 미국, 스위스 등 주요 가속기 선진국에서 연구를 진행하셨습니다. 이러한 국제 경험이 현재의 연구에 어떤 영향을 미쳤나요? 제가 포항가속기연구소에서 근무하던 중 처음 해외로 유학을 간 곳은 일본의 SPring-8(Super Photon ring-8 GeV) 방사광 가속기였습니다. SPring-8은 세계 최대 규모의 3세대 방사광 가속기로, 여기서 박사후연구원 시절을 지냈습니다. 이후 독일의 DESY(Deutsches Elektronen-Synchrotron), 스위스의 PSI(Paul Scherrer Institute), 미국의 제퍼슨 국립가속기 연구소 등에서 근무하며 각국의 첨단 가속기 설계 및 운영 시스템을 체계적으로 익힐 수 있었습니다. 이미 오래 전부터 해외의 주요 가속기 연구소들은 적극적으로 디지털화된 실험 운영 체계와 자동화 기술을 도입하면서 큰 효과를 보고 있었습니다. 이런 선진 가속기 연구소에서의 경험들이 제가 한국에 돌아와 가속기와 AI의 융합을 제안하고 실험할 수 있는 밑거름이 되었습니다. 다양한 시스템과 사고방식을 실제로 겪어봤기에, 현재 한국의 시스템이 갖고 있는 한계를 극복하고 개선해 나가기 위해 많은 노력을 기울이고 있습니다. 국내에서 방사광 가속기 분야에서 활동을 이어오셨는데, 이러한 가속기 인프라가 왜 지금 시점에서 중요한가요? 가속기는 국가 기술주권과 산업 경쟁력 확보의 핵심 열쇠이기 때문입니다. 국내에서는 오랫동안 포항 3세대 방사광 가속기가 유일했습니다. 전자를 빛의 속도에 가깝게 가속한 후 방향을 바꿀 때 방출되는 방사광을 이용하는 방사광 가속기는 신약이나 신소재 개발, 반도체, 디스플레이 등 다양한 분야에서 활용되기 때문에 이용자 수가 매년 600명씩 증가하며 포화 상태였습니다. 이런 상황에서 일본, 독일 등은 더 진보된 가속기를 구축해 소재·반도체·우주산업을 선도하고 있었죠. 저는 이런 격차를 좁히기 위해 제4세대 방사광 가속기 구축 필요성을 역설해 왔었습니다. 특히 일본과의 소재전쟁 이후 원자나 분자 수준의 구조 분석이 가능한 초정밀 분석 장비에 대한 요구가 이어졌습니다. 이에 국산 소재를 직접 분석, 검증할 수 있는 장비인 방사광 가속기의 중요성이 대두되며 문재인 전 대통령이 두 개의 가속기를 건설하라고 지시하기도 했습니다. 하지만 현재는 예산 문제로 오창에 한 곳만 건설된 상태입니다. 방사광 가속기 외에 파쇄 중성자원(Spallation Neutron Source) 가속기 또한 점점 중요도가 높아지고 있는 것으로 알고 있습니다. 파쇄 중성자원 가속기는 왜 필요하고 어떤 분야에 활용될 수 있나요? 파쇄 중성자원(Spallation Neutron Source) 가속기는 전하가 없고 투과력이 높은 중성자를 발생시켜 엑스레이나 전자현미경으로는 보기 어려운 내부 구조를 정밀하게 관찰할 수 있게 합니다. 따라서 대표적으로 배터리 내부의 수소 이동, 누액 검출, 고체-액체 경계 분석 등은 물론이고 원자의 구조 분석, 단백질 입체 구조 연구, 복합재료의 내부 분석 등 수많은 분야에 활용할 수 있습니다. 특히 우주산업 측면에서 중요성이 커지고 있습니다. 위성이나 발사체에 탑재된 반도체는 우주 방사선(양성자·중성자)에 매우 취약한데, 이런 극한 환경에서의 내방사선 테스트에도 바로 파쇄 중성자원이 필요합니다. 미국, 중국, 일본은 이미 이 시설을 국가전략 차원에서 갖추었지만, 우리는 아직도 부재 상태입니다. 6G, 우주산업, 국방 등 미래 산업의 기반을 위해서는 파쇄 중성자원 가속기가 반드시 필요한 인프라입니다. 하드웨어 기반 가속기 전문가였던 교수님께서 인공지능응용연구실로 자리를 옮기셨다고 들었습니다. 이 전환에는 어떤 배경이 있었나요? 저는 오랜 기간 가속기와 제어 시스템, 하드웨어 중심의 연구를 해왔습니다. 그런데 AI 기술이 급격히 발전하면서 실험실 수준에서도 AI와의 융합이 필수적인 시기가 도래했음을 느꼈습니다. 특히 EPICS 기반 제어 시스템과 AI의 결합 가능성을 누구보다 먼저 확인했기에, 단순한 기술 적용이 아니라 AI 중심 조직에서 융합의 구심점 역할을 하고 싶었습니다 그래서 2023년 11월, 한국원자력연구원의 ‘인공지능응용연구실’로 자리를 옮겼습니다. ‘인공지능응용연구실’에 합류한 이후로는 그간 약했던 하드웨어 이해와 제어기술 부분을 보완하며, AI와 물리 기반 실험 장비를 연결하는 가교 역할을 수행하고 있습니다. AI 개발자들이 가진 가장 큰 약점은 물리적 시스템, 특히 실험 장비나 센서·액추에이터 등과의 통합 경험이 부족하다는 점인데, 저는 그 부분에서 실질적인 역할을 할 수 있기 때문입니다. 이 이동은 단지 연구실을 옮긴 것 이상의 의미가 있습니다. 하드웨어 기반 과학자가 AI로 전환하고, 융합 생태계를 구축하는 상징적인 사례가 되길 바라는 마음으로 결정한 일입니다. 가속기 분야에서 AI 도입은 어떤 의미를 갖고 있으며, 어떤 실질적인 진전이 있었나요? 해외에서는 이미 2010년대부터 가속기 운영에 AI를 적용해왔습니다. 독일 DESY, 스위스 PSI, 미국 스탠퍼드 SLAC(Stanford Linear Accelerator Center) 등은 실험 운영의 자동화, 오차 탐지, 최적화에 AI를 도입했죠. 하지만 한국은 제가 귀국한 2014년 당시까지도 대부분 수작업 기반 운영이었고, AI는 전혀 활용되지 않았습니다. 이를 바꾸기 위해 2021년부터 본격적으로 ‘AI 기반 가속기 운영’을 연구했고, 최근에는 EPICS와 LLM을 직접 연동해 실제로 음성 명령만으로 가속기 온도 조절 등을 수행하는 데모를 시연했습니다. 이는 향후 자율운전, AI 운영 시스템 구축의 실질적인 출발점이 될 수 있습니다. 김 교수님이 국내에서 처음 AI가 가속기를 말로 제어하는 데모를 시연한 것으로 알고 있습니다. 구체적으로 어떤 방식으로 구현되었습니까? 전 세계 대형 실험시설에서 가장 널리 쓰이는 제어 시스템인 EPICS는 사실상 가속기나 핵융합로와 같은 초정밀 시스템의 ‘신경망’이라 할 수 있습니다. 저는 1997년에 EPICS를 국내에 처음 도입해 포항가속기에 적용했고, 이후 케이스타, 중이온가속기, 오창 방사광가속기 등 대부분의 국내 대형 시설이 이를 채택하게 되었습니다. 최근에는 이 EPICS 시스템에 LLM을 직접 연결해, 자연어 명령만으로 온도·자기장 같은 장치 제어가 가능한 AI 에이전트형 실험실 데모를 구현했습니다. 예컨대, “온도가 1도 이상 올라가면 0.5도 낮춰줘”라고 말하면, LLM이 이를 해석해 EPICS를 통해 실시간 제어를 수행합니다. 이는 기존의 수천 줄짜리 코드 작업을 생략하고, 단 몇 마디 말로 실험 환경을 제어할 수 있게 한다는 점에서 가속기 제어의 패러다임 전환이라 볼 수 있습니다. 이 구조를 활용하면 향후 모든 실험 시설이 ‘에이전트화’된 AI로 진화할 수 있고, 선제적인 유지보수, 자율 운영, 자동화 진단 등 고도화된 스마트 연구 인프라로 전환할 수 있습니다. 지능형 에이전트 기반 가속기 운영 최적화 및 자동화에 대한 개념도 슈퍼퍼실리티 개념을 강조하셨는데, 이 개념이 구체적으로 무엇이며 왜 지금 한국에 필요한가요? 슈퍼퍼실리티(superfacility)는 실험 장비(예: 가속기)와 초고속 네트워크, HPC(슈퍼컴퓨터), 빅데이터 센터, AI 분석 시스템이 실시간으로 연동된 통합 실험-분석 플랫폼입니다. 지난 코로나19 팬데믹 때, 미국 UC버클리나 스탠퍼드 대학 연구진은 이런 슈퍼퍼실리티 구조를 활용해 코로나19 바이러스 구조를 실시간 분석함으로써 백신 개발을 앞당겼습니다. 슈퍼퍼실리티는 실험 중 발생하는 대용량 데이터를 슈퍼컴으로 바로 전송하고, AI가 실시간 분석하여 그 자리에서 실험 조건을 수정하는 구조입니다. 기존처럼 외장하드에 데이터를 담아 돌아가서 분석하는 방식에 비해 엄청난 시간 절약이 가능합니다. 이미 2022년부터 이 개념을 한국 과학기술계에 도입하려 노력해 왔고, 최근 정부도 일부 관심을 보이기 시작했습니다. 5~10년 내 이 개념을 도입하지 않으면, 한국은 연구 생산성 측면에서 글로벌 수준과 격차가 점점 벌어질 것입니다. 슈퍼퍼실리티 개념이 정착되면 AI의 역할이 더욱 중요해 질 것으로 보입니다. 어떤 변화가 일어날 것이라고 생각하시나요? 슈퍼퍼실리티는 실험 자동화에 그치는 것이 아닌, AI가 실험을 ‘계획하고, 수행하고, 결과를 분석해 논문을 작성하는’ 연구의 전 과정을 수행하는 구조를 가능하게 합니다. 즉, AI가 진정한 과학적 실험 파트너가 되는 것이죠. 특히 가속기 빔라인에서의 실험은 반복적이고 정밀한 조정이 필요한데, AI는 이러한 환경에서 실시간 최적화를 통해 인간보다 더 정밀하게 실험을 설계하고 수행할 수 있습니다. 이는 단순한 보조를 넘어 AI가 연구자의 가장 믿음직한 파트너가 되는 ‘AI 사이언티스트’의 시대로 진입하는 길을 열어주는 셈입니다. 가속기 설계에 AI를 활용해 디지털 트윈 기반의 자동화 설계 시스템을 구현하셨다고 들었습니다. 어떤 방식인가요? 얼마 전 시행한 데모에서는 ‘엘레건트(elegant)’라는 오픈소스 가속기 시뮬레이션 코드를 활용해 디지털 트윈을 구성했습니다. 여기에 EPICS, LLM, MCP 서버를 연결해, 자연어 명령으로 가속기의 허용 오차 범위를 계산하도록 했습니다. 기존에는 전자석 정렬 오차, 필드 세기 오차, 전원 공급 불안정 등 수천 개의 변수에 대한 허용치를 계산하기 위해 석사·박사급 연구자들이 수개월에서 1년 이상 걸리는 작업을 직접 수행해야 했습니다. 가속기를 운용할 수 있는 오차 허용 범위를 구하는 작업을 디지털 트윈과 MCP 기반의 AI 에이전트 기술을 적용한 결과, 1시간 이내에 끝마칠 수 있었습니다. ‘한국가속기 및 플라즈마 연구협회’에서 진행한 학회에서 이 내용을 발표하자, 기대했던 것 이상의 호응을 얻을 수 있었습니다. 그리고 MCP 서버와 AI 에이전트로 가속기 설계용 코드를 실시간으로 제어하고 데이터를 바로 뽑아내는 과정을 데모로 시연했습니다. 이런 내용은 새로운 가속기를 설계하거나, 유지보수하고, 새로운 실험을 준비하는 거의 모든 과정에서 활용할 수 있는 기술입니다. 많은 가속기 연구자들이 가속기가 AI를 적용하기에 가장 이상적인 연구 인프라라고 말하는 이유는 무엇입니까? 가속기는 디지털 트랜스포메이션(DX)이 가장 잘 이뤄진 시설 중 하나입니다. 거의 모든 시스템이 EPICS 기반으로 통합 제어되고 있으며, 데이터가 실시간으로 수집되고 고정밀 피드백이 필수적인 구조입니다. 이는 곧 AI가 학습·제어·예측하기에 최적의 환경을 제공한다는 뜻입니다. 여기에 디지털 트윈, LLM, 에이전트 AI가 결합되면, 가속기는 ‘자율운영 실험실’로 진화할 수 있습니다. 따라서 AI 융합을 통한 과학기술 혁신을 실증하기에 가장 적합한 플랫폼이 바로 가속기입니다. 그리고 이런 가속기와의 결합을 통해 얻은 결과물은 EPICS를 사용하고 있는 다른 연구 시설은 물론이고, 대형 플랜트나 산업 시설은 물론이고 PLC(Programmable Logic Controller)를 사용하고 있는 제조 시설의 관리에도 빠르게 적용할 수 있기 때문에 더 많은 관심을 가질 필요가 있습니다. 김유종 교수는 한국원자력연구원과 UST(과학기술연합대학원대학교) 소속의 가속기 및 인공지능 융합 연구 전문가로, 국내외 가속기 기술 발전을 주도해 왔다. 포항공대에서 박사학위를 받은 이후 일본의 SPring-8, 독일의 DESY, 스위스의 PSI, 미국의 제퍼슨랩 등 세계적인 가속기 연구소에서 핵심 연구를 수행하며 글로벌 역량을 쌓았다. 최근 그는 가속기 제어시스템(EPICS)에 대형 언어모델(LLM)을 최초로 연동한 AI 기반 실시간 제어 시스템을 국내에서 구현하는 등, 실험 시설과 AI를 연결하는 혁신적 시도를 하고 있다. 현재는 데이터, 슈퍼컴퓨팅, AI를 실시간 통합하는 ‘슈퍼퍼실리티’ 개념을 국내에 전파하는 데 앞장서며, 미래형 연구 인프라 구축을 이끌고 있다.

2025.08.04  0  193 

믿을까 말까...허위 정보와의 전쟁은 진행 중

Today's index 지시받고 송금한게 범죄집단에? 허위정보 못막으면 경제 위기 딥페이크는 큰 시장 진화하는 딥페이크와 탐지술    ※ 레터 읽는 법 ※ 볼딕 단어나 밑줄 단어 혹은 분홍색 단어에는, URL이 포함돼 있습니다. 클릭하면 세부 내용이 연결됩니다. FBI에 채포되는 버락 오바마 전 미국 대통령을 웃으며 바라보는 도널드 트럼프 미국 대통령. 이 영상은 AI로 만든 딥페이크 영상입니다. 트루스 소셜 경영진의 요청으로 돈을 송금했는데, 이 돈이 실제로는 범죄집단의 손으로 들어갔다면? 영화같은 일이 실제로 벌어졌습니다. 챗GPT 생성. CEO 지시로 돈 보냈는데 범죄집단이 받았다고요? 2024년 초 영국 엔지니어링 컨설팅 기업 A사의 한 직원이 경영진과의 화상회의 요청에 따라 다수의 금전 이체 요청을 승인합니다. 총액은 약 2500만달러(약 3000억원) 상당이었죠. 정상적인 송금 절차였다고 생각한 이 직원은 이 돈이 모두 범죄조직으로 송금됐다는 것을 알고 큰 충격을 받았습니다. 이 화상회의는 AI가 딥페이크로 만든 경영진의 얼굴과 음성이었고, 직원이 접속한 화상회의 플랫폼 또한 가짜였기 때문이었기 때문이에요. 실시간 영상 합성·음성 클로닝을 결합해 입 모양까지 자연스럽게 구현한 ‘멀티모달 딥페이크’에 깜빡 속아 넘어간 것이었습니다. 같은해 2월 홍콩의 한 중견 금융회사직원도 본사 임원을 사칭한 딥페이크 영상 회의에 속아 2억홍콩달러(약 360억원)을 이체하는 사고가 발생했죠. 임원실 배경, 회의자료까지 모두 정교하게 가짜로 만들어 그대로 속아 넘어갈 수밖에 없었습니다. 허위정보 보안이란 고의적·악의적으로 생성·유포되는 거짓 또는 오도성 정보를 탐지하고 완화, 예방하기 위한 기술과 거버넌스 체계를 의미합니다. 전통적 사이버보안이 시스템·네트워크 침해를 방지하는 데 중점을 둔다면 허위정보 보안은 인간의 의지와 신뢰 기반을 겨냥하는 공격을 방어하죠. 사이버 보안 기업 스플렁크는 허위정보를 조작하고 조직 운영을 교란하며 사회 전체의 신뢰를 무너뜨릴 수 있는 고의적·진화하는 보안 위협으로 정의했습니다. 그리고 이 문제를 해결하기 위해 AI·머신러닝·데이터 분석을 활용한 탐지, 지속적 모델 재학습, 휴먼 리뷰, 관측 데이터 통합이 필수라고 강조했죠. 허위정보 못막으면 국가안보·경제 위기 앞서 소개한 사례처럼 허위정보는 사회 경제 전반에 큰 악영향을 줄 수 있습니다. AP통신은 미 국무부, 장관, 대통령 등 주요 인물을 표적으로 한 딥페이크 영상과 음성이 심각한 외교·정보전 도구로 활용되고 있다는 점을 지적했죠. 의도적으로 편집한 대통령과 주요 장관들의 목소리는 유권자들의 정치적 결정에 큰 영향을 줄 수 있습니다. 가짜뉴스와 딥페이크 사기는 브랜드의 평판을 훼손하고 투자자 신뢰 상실, 주가 급락으로 이어집니다. 기업으로서는 돌이킬 수 없는 피해를 입는 셈이죠. 딜로이트는 2023년 약 123억달러(약 17조원)였던 AI 기반 사기 손실이 연평균 약 32% 늘어나 2027년 미국에서 최대 400억달러(약 55조원)를 기록할 것이란 보고서를 내놓기도 했습니다 . 앞서 예로 들었던 오바마 전 대통령 체포 딥페이크 영상의 경우 게시 1시간만에 틱톡, X, 왓츠앱 등을 통해 50만회 이상 재생산된 뒤 단 24시간만에 조회수 300만회를 기록했습니다. 슬로바키아에선 정치인들의 음성을 조작한 딥페이크 음성이 유포됐는데, 공개된지 48시간만에 페이스북 그룹 내에서 7만건 이상 공유됐습니다. 그 결과 여론조사 지지율에 최소 3%포인트 영향을 준 것으로 알려졌죠. 결코 작 않은 숫자입니다. 가트너는 딥페이크와 그 탐지 기술과 관련한 시장이 크게 성장할 것이라는 보고서를 내놨습니다. 가트너. 딥페이크는 큰 시장 딥페이크 생성이 멈추지 않는건 말 그대로 이 산업이 돈이 되기 때문입니다. 시장조사기관들에 따르면 AI 생성 딥페이크 도구 시장은 2024년 5억6400만달러(약 7830억원) 규모에서 2030년 51억3400만달러(약 7조1300억원)로 급증할 것으로 예측됩니다. 주로 영상 콘텐츠 제작과 엔터테인먼트 기업들이 주요 고객이죠. 딥페이크를 추적하는 탐지 시장도 비슷한 규모로 성장이 점쳐지고 있습니다. 이미지·영상·음성 등 딥페이크 탐지 솔루션은 2023년 약 8억1900만달러(약 1조1300억원)서 2030년 73억2000만달러(약 10조1600억원)로 시장 규모가 팽창할 전망이죠. 특히 딥페이크로 피해를 입을 수 있는 금융권, 국방기관과 더불어 팩트체크가 중요한 언론사 등이 이를 도입하려고 하고 있습니다. 시장조사기관 가트너는 2024년 전 세계 기업 중 허위정보 보안 전용 플랫폼을 도입한 곳이 5% 미만에 그쳤지만, 2028년엔 이 비율이 전체 기업의 절반을 넘어설 것으로 예측했습니다. 가트너는 특히 기업 경영진의 61%가 에이전트AI 기반의 보안 솔루션을 시범 도입 중이며, 특히 금융 부문은 내부 사기 피해 방지를 위해, 정부와 공공 부문은 선거와 정책 왜곡 방지를 위해 집중 투자하고있다고 밝혔습니다. 딥페이크 기술은 점점 진화하고 있습니다. 이제는 진짜와 가짜를 구분하기 어려울 정도로 발전했죠, 챗GPT 생성 반드시 속인다진화하는 딥페이크 창(딥페이크)과 방패(탐지기술)의 대결은 지금도 진행 중이에요. 아직까진 창이 조금 더 앞서는 것으로 보입니다. 조호 코퍼레이션 산하의 IT 관리 솔루션 브랜드 매니지엔진의 분석에 따르면 딥페이크·AI 생성 콘텐츠는 10~15초 분량의 단일 영상 클립을 생성하는데 평균 25분이 소요됩니다. 반면 이를 탐지해야 하는 시스템은 4~6시간 정도의 학습과 분석 시간이 필요하다고 하죠. 즉, 딥페이크를 만드는 속도가 이를 잡아내는 속도보다 최소 50배 빠른 셈입니다. 또한 인간의 육안에 의존한 팀지 실험 결과 일반 사용자의 딥페이크 식별 정확도는 50% 미만 수준에 그쳤습니다. 자동화된 AI 포렌식 시스템 도입이 반드시 필요한 이유입니다. 대표적인 딥페이크 제작 기술로는 오토인코더 기반 교차합성, 생성적 적대 신경망(GAN), 실시간 멀티모달 딥페이크 등이 있습니다. 오토인코더 기반 교차합성은 소스인 얼굴(A)과 타깃으로 한 얼굴(B) 각각에 인코더와 디코더 쌍을 두고 공통 잠재 공간을 공유하도록 학습을 시키는 방법입니다. 사람 얼굴 사진을 종이 한 장에 그릴 수 있을 정도로 핵심 특징만 골라 요약한 뒤 요약한 특징을 바탕으로 원본에 가까운 그림을 그리는 방식입니다.  가장 널리 쓰이는 오픈소스 딥페이크 툴인 ‘딥페이스랩’의 경우 유튜브 튜토리얼을 따라 영상을 만들어볼 수도 있습니다. 개인이 보유한 GPU로도 가능하다고는 하는데, 약 10분 분량의 영상을 만드는데 몇 시간이 소요된다고 하네요. ‘페이스스왑’의 경우 CPU 전용 모드도 지원하고 있습니다. 생성적 적대 신경망(GAN) 기술의 경우 제너레이터는 가짜 얼굴을, 디스크리미네이터는 진짜와 가짜를 구분하도록 경쟁 학습시키는 방법을 활용합니다. 학습이 진행될수록 제너레이터는 점점 더 정교한 ‘진짜같은 가짜’를 만들어내고, 디스크리미네이터는 작은 위조 흔적을 찾는 방법을 학습하죠. 마치 화가와 미술 감정가가 ‘모작’ 경연대회를 펼치는 것과 같습니다. 화가(제너레이터)는 진짜 같은 그림을 그리려 하고, 감정가(디스크리미네이터)는 작품이 진짜인지 가짜인지를 판정하죠. 화가의 결과물을 감정가가 계속 지적해 개선해 나가는데, 이 과정을 반복하다 보면 감정가가 이건 진짜라고 속아 넘어갈만한 결과물이 탄생하는 것이죠.   이 기술은 좋은(?) 곳에 활용되고 있는데요. 얼굴의 세부 질감과 조명 헤어스타일까지 고해상도로 만들어 낼 수 있어 애니메이션이나 영화 VFX 분야에서 활용됩니다. 실시간·멀티모달 딥페이크는 영상 통화와 라이브 스트리밍에서 즉시 얼굴과 음성 합성이 필요한 경우에 사용합니다. 프레임별 경량화 네트워크로 얼굴을 추출해 빠르게 얼굴을 생성해 냅니다. 여기에 TTS(텍스트를 음성으로 전환)와 S2S(음성을 음성으로 변환) 기술을 활용해 실시간으로 음성까지 복제하죠. 앞서 살펴본 A사의 사기 사건에 활용된 것이 바로 이 실시간·멀티모달 딥페이크 방식이었습니다. 행정안전부의 '딥페이크 불법콘텐츠 탐지 분석모델' 관련 정책 설명회. 행정안전부 잡았다 이놈 딥페이크 탐지술 딥페이크의 기술이 점점 고도화되면서 이를 막아야하는 탐지 기술도 이에 뒤질세라 같이 발전하고 있습니다. 탐지방법 역시 여러 가지가 있는데, 대표적인 방법으로는 주파수·스펙트럴 분석, 생체 신호 기반 검증, 메타데이트·엔드투엔드 워터마킹 등이 있죠. 주파수·스펙트럴 분석은 영상의 주파수에 주목합니다. GAN이 생성하는 영상은 주파수 영역에서 특정 패턴을 남기는데요. 사람으로 비유하면 마치 지문과 같습니다. 이를 분석해 비정상 주파수 대역을 찾아내 해당 영상이 딥페이크라는 것을 확인할 수 있죠. 생체신호 기반 검증은 사람의 생체신호를 기반으로 딥페이크를 탐지하는 방법입니다. 실제 사람이라면 얼굴에 혈액이 흐르면서 피부색이 아주 조금씩 변화합니다. 딥페이크 영상은 AI로 만들어낸 영상으로 실제 살아있는 사람이 아니기에 피부가 붉은색에서 하얀색으로 변하는 등 맥박에 따른 변화가 보이지 않죠. 피부 톤이 그대로입니다. 네덜란드 국립 법의학 연구소(NFI) 연구팀은 혈류 측정 정확도 92%로 영상 속 사람이 진짜인지 가짜인지를 구분할 수 있다는 연구결과를 발표하기도 했습니다. 메타데이터·엔드투엔드 워터마킹 기술도 활용됩니다. 메타데이터 워터마킹은 사진과 영상파일 자체에 제작 시점과 제작자 정보 등 보이지 않는 태그를 살짝 심어두는 것인데요. 이 태크는 블록체인 같은 안전한 장부에 ‘이 파일은 어디서 만들었다’는 내용으로 기록돼있습니다. 누군가가 파일을 복제하거나 변조 즉 딥페이크로 만들게 되면 태그가 기존 기록과 맞지 않아 변조된 가짜 영상으로 볼 수 있는 것이죠. 엔드투엔드 디지털 서명의 경우 메시지를 주고받을 때 보내는 쪽이 내가 이걸 보냈다는 일종의 인증서를 붙이는 것입니다. 이를 통해서 딥페이크 여부를 확인 가능하죠. Briefing   ※ 붉은 제목을 누르면 상세 내용으로 연결됩니다. [벤처돋보기]퓨리오사AI도 유니콘...1700억 유치해 1조 몸값 AI(인공지능) 반도체 기업 퓨리오사AI(대표 백준호)가 시리즈 C 브릿지 단계에서 총 1700억 원 규모 투자를 유치했다고 하네요. 이로서 국내 딥테크 기업 중 리벨리온에 이어 몸값 1조원을 돌파하며 유니콘에 등극했습니다. "우주서 캡슐타고 지구로 무사귀환" K벤처 인터그래비, 착륙 실증 나선다 우주 스타트업 인터그래비티테크놀로지스가 지난 31일 중소벤처기업부 딥테크 팁스 연구개발(R&D) 과제에 선정됐다고 밝혔어요. 회사는 지구 귀환 캡슐의 정밀 착륙 기술을 실증할 계획이라고 합니다. “AI, 드디어 돈 되네”…메타·알파벳·MS ‘어닝 서프라이즈’ 미국 3대 빅테크가 2분기 나란히 시장 기대치를 웃도는 실적을 발표하며 ‘AI 효과’를 강조했어요. 메타는 사용자당 앱 체류시간 증가, 알파벳은 클라우드 부문 흑자 전환, 마이크로소프트는 애저 기반 클라우드 매출 39% 증가 등을 핵심 성과로 내세웠다고 하네요. 

2025.08.04  0  138 

믿을까 말까...허위 정보와의 전쟁은 진행 중

Today's index 지시받고 송금한게 범죄집단에? 허위정보 못막으면 경제 위기 딥페이크는 큰 시장 진화하는 딥페이크와 탐지술    ※ 레터 읽는 법 ※ 볼딕 단어나 밑줄 단어 혹은 분홍색 단어에는, URL이 포함돼 있습니다. 클릭하면 세부 내용이 연결됩니다. FBI에 채포되는 버락 오바마 전 미국 대통령을 웃으며 바라보는 도널드 트럼프 미국 대통령. 이 영상은 AI로 만든 딥페이크 영상입니다. 트루스 소셜 경영진의 요청으로 돈을 송금했는데, 이 돈이 실제로는 범죄집단의 손으로 들어갔다면? 영화같은 일이 실제로 벌어졌습니다. 챗GPT 생성. CEO 지시로 돈 보냈는데 범죄집단이 받았다고요? 2024년 초 영국 엔지니어링 컨설팅 기업 A사의 한 직원이 경영진과의 화상회의 요청에 따라 다수의 금전 이체 요청을 승인합니다. 총액은 약 2500만달러(약 3000억원) 상당이었죠. 정상적인 송금 절차였다고 생각한 이 직원은 이 돈이 모두 범죄조직으로 송금됐다는 것을 알고 큰 충격을 받았습니다. 이 화상회의는 AI가 딥페이크로 만든 경영진의 얼굴과 음성이었고, 직원이 접속한 화상회의 플랫폼 또한 가짜였기 때문이었기 때문이에요. 실시간 영상 합성·음성 클로닝을 결합해 입 모양까지 자연스럽게 구현한 ‘멀티모달 딥페이크’에 깜빡 속아 넘어간 것이었습니다. 같은해 2월 홍콩의 한 중견 금융회사직원도 본사 임원을 사칭한 딥페이크 영상 회의에 속아 2억홍콩달러(약 360억원)을 이체하는 사고가 발생했죠. 임원실 배경, 회의자료까지 모두 정교하게 가짜로 만들어 그대로 속아 넘어갈 수밖에 없었습니다. 허위정보 보안이란 고의적·악의적으로 생성·유포되는 거짓 또는 오도성 정보를 탐지하고 완화, 예방하기 위한 기술과 거버넌스 체계를 의미합니다. 전통적 사이버보안이 시스템·네트워크 침해를 방지하는 데 중점을 둔다면 허위정보 보안은 인간의 의지와 신뢰 기반을 겨냥하는 공격을 방어하죠. 사이버 보안 기업 스플렁크는 허위정보를 조작하고 조직 운영을 교란하며 사회 전체의 신뢰를 무너뜨릴 수 있는 고의적·진화하는 보안 위협으로 정의했습니다. 그리고 이 문제를 해결하기 위해 AI·머신러닝·데이터 분석을 활용한 탐지, 지속적 모델 재학습, 휴먼 리뷰, 관측 데이터 통합이 필수라고 강조했죠. 허위정보 못막으면 국가안보·경제 위기 앞서 소개한 사례처럼 허위정보는 사회 경제 전반에 큰 악영향을 줄 수 있습니다. AP통신은 미 국무부, 장관, 대통령 등 주요 인물을 표적으로 한 딥페이크 영상과 음성이 심각한 외교·정보전 도구로 활용되고 있다는 점을 지적했죠. 의도적으로 편집한 대통령과 주요 장관들의 목소리는 유권자들의 정치적 결정에 큰 영향을 줄 수 있습니다. 가짜뉴스와 딥페이크 사기는 브랜드의 평판을 훼손하고 투자자 신뢰 상실, 주가 급락으로 이어집니다. 기업으로서는 돌이킬 수 없는 피해를 입는 셈이죠. 딜로이트는 2023년 약 123억달러(약 17조원)였던 AI 기반 사기 손실이 연평균 약 32% 늘어나 2027년 미국에서 최대 400억달러(약 55조원)를 기록할 것이란 보고서를 내놓기도 했습니다 . 앞서 예로 들었던 오바마 전 대통령 체포 딥페이크 영상의 경우 게시 1시간만에 틱톡, X, 왓츠앱 등을 통해 50만회 이상 재생산된 뒤 단 24시간만에 조회수 300만회를 기록했습니다. 슬로바키아에선 정치인들의 음성을 조작한 딥페이크 음성이 유포됐는데, 공개된지 48시간만에 페이스북 그룹 내에서 7만건 이상 공유됐습니다. 그 결과 여론조사 지지율에 최소 3%포인트 영향을 준 것으로 알려졌죠. 결코 작 않은 숫자입니다. 가트너는 딥페이크와 그 탐지 기술과 관련한 시장이 크게 성장할 것이라는 보고서를 내놨습니다. 가트너. 딥페이크는 큰 시장 딥페이크 생성이 멈추지 않는건 말 그대로 이 산업이 돈이 되기 때문입니다. 시장조사기관들에 따르면 AI 생성 딥페이크 도구 시장은 2024년 5억6400만달러(약 7830억원) 규모에서 2030년 51억3400만달러(약 7조1300억원)로 급증할 것으로 예측됩니다. 주로 영상 콘텐츠 제작과 엔터테인먼트 기업들이 주요 고객이죠. 딥페이크를 추적하는 탐지 시장도 비슷한 규모로 성장이 점쳐지고 있습니다. 이미지·영상·음성 등 딥페이크 탐지 솔루션은 2023년 약 8억1900만달러(약 1조1300억원)서 2030년 73억2000만달러(약 10조1600억원)로 시장 규모가 팽창할 전망이죠. 특히 딥페이크로 피해를 입을 수 있는 금융권, 국방기관과 더불어 팩트체크가 중요한 언론사 등이 이를 도입하려고 하고 있습니다. 시장조사기관 가트너는 2024년 전 세계 기업 중 허위정보 보안 전용 플랫폼을 도입한 곳이 5% 미만에 그쳤지만, 2028년엔 이 비율이 전체 기업의 절반을 넘어설 것으로 예측했습니다. 가트너는 특히 기업 경영진의 61%가 에이전트AI 기반의 보안 솔루션을 시범 도입 중이며, 특히 금융 부문은 내부 사기 피해 방지를 위해, 정부와 공공 부문은 선거와 정책 왜곡 방지를 위해 집중 투자하고있다고 밝혔습니다. 딥페이크 기술은 점점 진화하고 있습니다. 이제는 진짜와 가짜를 구분하기 어려울 정도로 발전했죠, 챗GPT 생성 반드시 속인다진화하는 딥페이크 창(딥페이크)과 방패(탐지기술)의 대결은 지금도 진행 중이에요. 아직까진 창이 조금 더 앞서는 것으로 보입니다. 조호 코퍼레이션 산하의 IT 관리 솔루션 브랜드 매니지엔진의 분석에 따르면 딥페이크·AI 생성 콘텐츠는 10~15초 분량의 단일 영상 클립을 생성하는데 평균 25분이 소요됩니다. 반면 이를 탐지해야 하는 시스템은 4~6시간 정도의 학습과 분석 시간이 필요하다고 하죠. 즉, 딥페이크를 만드는 속도가 이를 잡아내는 속도보다 최소 50배 빠른 셈입니다. 또한 인간의 육안에 의존한 팀지 실험 결과 일반 사용자의 딥페이크 식별 정확도는 50% 미만 수준에 그쳤습니다. 자동화된 AI 포렌식 시스템 도입이 반드시 필요한 이유입니다. 대표적인 딥페이크 제작 기술로는 오토인코더 기반 교차합성, 생성적 적대 신경망(GAN), 실시간 멀티모달 딥페이크 등이 있습니다. 오토인코더 기반 교차합성은 소스인 얼굴(A)과 타깃으로 한 얼굴(B) 각각에 인코더와 디코더 쌍을 두고 공통 잠재 공간을 공유하도록 학습을 시키는 방법입니다. 사람 얼굴 사진을 종이 한 장에 그릴 수 있을 정도로 핵심 특징만 골라 요약한 뒤 요약한 특징을 바탕으로 원본에 가까운 그림을 그리는 방식입니다.  가장 널리 쓰이는 오픈소스 딥페이크 툴인 ‘딥페이스랩’의 경우 유튜브 튜토리얼을 따라 영상을 만들어볼 수도 있습니다. 개인이 보유한 GPU로도 가능하다고는 하는데, 약 10분 분량의 영상을 만드는데 몇 시간이 소요된다고 하네요. ‘페이스스왑’의 경우 CPU 전용 모드도 지원하고 있습니다. 생성적 적대 신경망(GAN) 기술의 경우 제너레이터는 가짜 얼굴을, 디스크리미네이터는 진짜와 가짜를 구분하도록 경쟁 학습시키는 방법을 활용합니다. 학습이 진행될수록 제너레이터는 점점 더 정교한 ‘진짜같은 가짜’를 만들어내고, 디스크리미네이터는 작은 위조 흔적을 찾는 방법을 학습하죠. 마치 화가와 미술 감정가가 ‘모작’ 경연대회를 펼치는 것과 같습니다. 화가(제너레이터)는 진짜 같은 그림을 그리려 하고, 감정가(디스크리미네이터)는 작품이 진짜인지 가짜인지를 판정하죠. 화가의 결과물을 감정가가 계속 지적해 개선해 나가는데, 이 과정을 반복하다 보면 감정가가 이건 진짜라고 속아 넘어갈만한 결과물이 탄생하는 것이죠.   이 기술은 좋은(?) 곳에 활용되고 있는데요. 얼굴의 세부 질감과 조명 헤어스타일까지 고해상도로 만들어 낼 수 있어 애니메이션이나 영화 VFX 분야에서 활용됩니다. 실시간·멀티모달 딥페이크는 영상 통화와 라이브 스트리밍에서 즉시 얼굴과 음성 합성이 필요한 경우에 사용합니다. 프레임별 경량화 네트워크로 얼굴을 추출해 빠르게 얼굴을 생성해 냅니다. 여기에 TTS(텍스트를 음성으로 전환)와 S2S(음성을 음성으로 변환) 기술을 활용해 실시간으로 음성까지 복제하죠. 앞서 살펴본 A사의 사기 사건에 활용된 것이 바로 이 실시간·멀티모달 딥페이크 방식이었습니다. 행정안전부의 '딥페이크 불법콘텐츠 탐지 분석모델' 관련 정책 설명회. 행정안전부 잡았다 이놈 딥페이크 탐지술 딥페이크의 기술이 점점 고도화되면서 이를 막아야하는 탐지 기술도 이에 뒤질세라 같이 발전하고 있습니다. 탐지방법 역시 여러 가지가 있는데, 대표적인 방법으로는 주파수·스펙트럴 분석, 생체 신호 기반 검증, 메타데이트·엔드투엔드 워터마킹 등이 있죠. 주파수·스펙트럴 분석은 영상의 주파수에 주목합니다. GAN이 생성하는 영상은 주파수 영역에서 특정 패턴을 남기는데요. 사람으로 비유하면 마치 지문과 같습니다. 이를 분석해 비정상 주파수 대역을 찾아내 해당 영상이 딥페이크라는 것을 확인할 수 있죠. 생체신호 기반 검증은 사람의 생체신호를 기반으로 딥페이크를 탐지하는 방법입니다. 실제 사람이라면 얼굴에 혈액이 흐르면서 피부색이 아주 조금씩 변화합니다. 딥페이크 영상은 AI로 만들어낸 영상으로 실제 살아있는 사람이 아니기에 피부가 붉은색에서 하얀색으로 변하는 등 맥박에 따른 변화가 보이지 않죠. 피부 톤이 그대로입니다. 네덜란드 국립 법의학 연구소(NFI) 연구팀은 혈류 측정 정확도 92%로 영상 속 사람이 진짜인지 가짜인지를 구분할 수 있다는 연구결과를 발표하기도 했습니다. 메타데이터·엔드투엔드 워터마킹 기술도 활용됩니다. 메타데이터 워터마킹은 사진과 영상파일 자체에 제작 시점과 제작자 정보 등 보이지 않는 태그를 살짝 심어두는 것인데요. 이 태크는 블록체인 같은 안전한 장부에 ‘이 파일은 어디서 만들었다’는 내용으로 기록돼있습니다. 누군가가 파일을 복제하거나 변조 즉 딥페이크로 만들게 되면 태그가 기존 기록과 맞지 않아 변조된 가짜 영상으로 볼 수 있는 것이죠. 엔드투엔드 디지털 서명의 경우 메시지를 주고받을 때 보내는 쪽이 내가 이걸 보냈다는 일종의 인증서를 붙이는 것입니다. 이를 통해서 딥페이크 여부를 확인 가능하죠. Briefing   ※ 붉은 제목을 누르면 상세 내용으로 연결됩니다. [벤처돋보기]퓨리오사AI도 유니콘...1700억 유치해 1조 몸값 AI(인공지능) 반도체 기업 퓨리오사AI(대표 백준호)가 시리즈 C 브릿지 단계에서 총 1700억 원 규모 투자를 유치했다고 하네요. 이로서 국내 딥테크 기업 중 리벨리온에 이어 몸값 1조원을 돌파하며 유니콘에 등극했습니다. "우주서 캡슐타고 지구로 무사귀환" K벤처 인터그래비, 착륙 실증 나선다 우주 스타트업 인터그래비티테크놀로지스가 지난 31일 중소벤처기업부 딥테크 팁스 연구개발(R&D) 과제에 선정됐다고 밝혔어요. 회사는 지구 귀환 캡슐의 정밀 착륙 기술을 실증할 계획이라고 합니다. “AI, 드디어 돈 되네”…메타·알파벳·MS ‘어닝 서프라이즈’ 미국 3대 빅테크가 2분기 나란히 시장 기대치를 웃도는 실적을 발표하며 ‘AI 효과’를 강조했어요. 메타는 사용자당 앱 체류시간 증가, 알파벳은 클라우드 부문 흑자 전환, 마이크로소프트는 애저 기반 클라우드 매출 39% 증가 등을 핵심 성과로 내세웠다고 하네요. 

2025.08.04  0  170 

(홍보)구글클라우드 AI 전문인력 양성 과정

- 과정명 : 2025년 구글클라우드 인공지능(AI) 전문인력 양성과정                  (GCP 기반 AI 서비스 프로젝트 개발 과정) - 모집기간 : 25.07.14~25  ※ 입과테스트 및 면접 : 7.28 / 7.29 - 교육기간 : 25.08.04~09.23 - 참조: https://www.onoffmix.com/event/327097

2025.07.16  0  187 

한국무역협회가 직접 전하는 NextRise 2025 개최 후기!

한국무역협회와 한국산업은행이 공동 주최하는 아시아 최대 글로벌 스타트업 페어, NextRise 2025가 성황리에 막을 내렸습니다!👏👏 이번 뉴스레터에서는 한국무역협회가 직접 전해주는 NextRise 2025 개최 후기를 준비했습니다. 개막식을 시작으로 컨퍼런스, 어워즈 등 생생한 행사 현장에서 들려오는 이야기를 지금 바로 만나러 가볼까요?💨 #NextRise #2025 개막식 6월 26일, 서울 삼성동 코엑스에서 NextRise 2025의 막이 올랐습니다. 한국무역협회 윤진식 회장님께서는 환영사를 통해 "아시아 최대 규모의 이노베이션 플랫폼인 넥스트라이즈에 참가한 전 세계의 혁신가들과 산업 리더들을 환영한다"며, "무역협회는 산업은행과 함께 AI, 딥테크, 그린 전환이라는 도전과 기회 속에서 아이디어가 기술로, 기술이 산업으로 전환되는 가교 역할을 수행하며 '내일의 산업'을 설계해 나가겠다"고 말씀하셨습니다. 앞으로도 넥스트라이즈가 혁신을 주도하는 마중물의 역할을 수행하도록 많은 응원 부탁드려요.💪 [👉자세히 보기] #스타트업 #미래유망산업 전시 부스 이번 전시 부스는 총 520여개의 국내외 다양한 스타트업이 참여했는데요, "AI를 중심으로 혁신을 가속화하다(Accelerate Innovation)"라는 슬로건에 걸맞게 미래 유망 산업에서의 AI 기술을 중심으로 한 참가 스타트업이 많았던 점이 돋보였습니다. 사진촬영/게임/VR 등 체험형 부스에서는 사람들의 발길이 끊이지 않았고, 로봇/센서/영상 등 기술 시연 부스에서는 감탄사가 끊이지 않았습니다. 또한, 각 부스 배너마다 짧은 회사 소개와 더불어 IR자료를 확인할 수 있는 QR코드가 안내되어 있어, 스타트업과 부스 방문객 간의 커뮤니케이션을 효율적이고 편리하게 이끌어낸 점에 대해 많은 호평을 받았습니다. #글로벌 #인사이트  컨퍼런스 / 파트너 행사 [지식, 호기심, 그리고 문화적 연결: AI가 바꾸는 퍼플렉시티의 역할] Perplexity June Morita, Head of APAC 퍼플렉시티의 모리타 준 아시아 대표님은 이번 강연을 통해 AI시대 속에서 기존 검색 엔진의 한계를 지적하고, 정보 과부화 시대에 효과적인 답변을 제공할 '답변 엔진' 이라는 새로운 패러다임을 제시했습니다. 특히, 데모 영상에서 소개된 챗봇 인터페이스의 여행 일정 수립, 이미지 분석 등 일상에서 유용하게 사용할 수 있는 기능 시연이 인상 깊었습니다.🤗 [👉자세히 보기] [Wise Conference 2025 Seoul] WFUNA, 울산광역시, UNIST, UNESCAP 유엔세계연맹(WFUNA), 울산과학기술원(UNIST) 등 국내외 임팩트 스타트업 생태계의 주요 기관과 리더들이 모여 '도시 혁신과 기후위기 대응을 위한 글로벌 임팩트 생태계의 미래'를 주제로 한 컨퍼런스를 개최했습니다. 지구 환경 문제를 고민하고 있는 스타트업에게 인사이트를 제공하고, 씨티프레너스(UN 임팩트 창업 경진대회)의 성과를 공유하는 뜻깊은 자리를 마련했습니다. [👉자세히 보기] 전시홀 3개의 무대에서는 국내외 명사 및 분야별 전문가를 초청해 4차산업 혁신기술(모빌리티, AI, DX 등), PoC, 오픈이노베이션 등 다양한 주제로, 총 60여회의 컨퍼런스와 파트너 행사가 진행되었습니다. 특히, 모든 컨퍼런스에서 AI 동시통역 솔루션인 '이벤트캣(EventCAT)'을 도입하여, 한국어와 영어로 실시간 자막을 제공해 글로벌 연사님들의 강연도 부담없이 청강할 수 있었던 점이 좋았습니다. 글로벌 트렌드와 인사이트를 전해주신 모든 연사님들께 감사의 말씀 드립니다.😊 #네트워킹 #오픈이노베이션 1:1 밋업 현장 전시회 기간 동안 1:1 밋업 현장은 국내외 대·중견기업 및 투자사 250개사와 전 세계 28개국 1,100여개 스타트업이 참가해, 역대 최대 규모인 총 3,600건의 밋업이 성사되었을 만큼 열기가 뜨거웠는데요. 특히 국내에서는 삼성, 현대차그룹, LG 등의 대기업이, 해외에서는 구글 클라우드, 마이크로소프트, 코카콜라 등 세계적으로 명망있는 글로벌 기업들이 함께 했습니다. 각 대기업 및 투자사와 스타트업은 사업 협력과 더불어 투자 유치 지원 등을 논의했습니다. 이번 밋업 현장이 세계 각국의 대기업과 스타트업이 협업 관계를 구축해 나가는 기회의 장이 되었기를 바라요.👍 #하이라이트 #혁신상 NextRise 2025 어워즈 대망의 하이라이트, '제3회 NextRise 2025 Awards'는 스타트업의 혁신기술개발을 독려하기 위해 높은 기술력과 잠재력을 보유한 스타트업을 선발하는 수상식으로, 총 702개 기업이 신청해 23:1의 경쟁률을 뚫고 30개 기업이 최종 선정되었습니다.👏👏 그 중 최고 혁신상인 'Top Innovator'는 망막 기반 인공지능 의료기기 연구기업 메디웨일과 국내 유일의 달 탐사 로봇기업 무인탐사연구소가 수상했습니다. 역대 NextRise를 빛낸 어워즈 수상기업들이 궁금하시다면, 아래 링크에서 만나보세요! [👉역대 어워즈 수상기업 리스트 바로가기]

2025.07.16  0  170