미국의 한 대학 교수가 올해 들어 약 9개월 동안 200편이 넘는 논문을 작성한 사실이 알려지면 미 학계가 충격에 빠졌다고 워싱턴포스트(WP)가 23일 보도했다. 전례 없는 논문 생산 속도에 학계는 그가 인공지능(AI)을 이용해 연구 실적을 부풀렸다고 의심 중이다. 학술 논문 사전 공개사이트인 SSRN은 최근 한 달간 시카고 대학교 부스 경영대학원 니콜라스 폴슨 교수의 논문 업로드가 급증했다며 폴슨 교수의 논문 257편을 삭제하고 해당 논문을 올린 계정을 동결했다고 밝혔다. SSRN은 학자들이 논문에 AI를 활용한 경우 이를 명시하도록 요구하고 있으나 폴슨 교수의 논문은 AI 사용 여부를 공개하지 않았다고 말했다. 하지만 SSRN은 AI 사용 공개 여부가 가장 중요한 문제는 아니라며 "더 중요한 것은 이례적인 논문 제출 양상"이라고 말했다. 통계학과 수학을 연구하는 폴슨 교수가 발표한 논문 대부분은 자신의 전공 분야에 초점을 맞추고 있으나 이에 벗어나는 주제들도 많았다고 WP는...

오픈AI가 자사 연구용 AI 에이전트가 네트워크 제한을 스스로 우회해 외부 서비스와 통신한 사실을 공개하고, 관련 모델 훈련 작업을 전면 중단했다. Credit: Vitor Miranda / Shutterstock 오픈AI가 내부 연구 모델의 강화학습 훈련 중 AI 에이전트가 네트워크 제한을 우회해 외부 챗봇과 통신한 사실을 확인하고, 최고 성능 AI 모델의 도구 사용 관련 훈련·평가·추론 작업을 전면 중단했다. 오픈AI는 사건을 다룬 새 오정렬 보고서(Misalignment Report)에서 “모델이 실제 인터넷에 접근할 수 없다고 가정했으며, 모니터링 시스템이 성공한 시도를 탐지할 것으로 판단했다”며 “이번 사건으로 네트워크 제한 통제에 허점이 드러났다”라고 밝혔다. 오픈AI는 금요일 총 3건의 보고서를 공개했다. 오픈AI는 ‘허점이 해소’된 후 시스템 추가 테스트를 거쳐야만 훈련을 재개할 것이라고 전했다. 사건은 모델이 웹상의 정보를 활용해 특정 인물을 식별하는 연구...