하이레터 구독자 여러분, 안녕하세요. 인간:지능연구소(H:AI)입니다.😃
AI가 도구를 넘어 스스로 목표를 설정하고 실행하는
'에이전트'로 진화하는 지금
AI는 연구와 산업 현장에서도 새로운 미래를 그려가고 있습니다
오늘 뉴스레터에서는
유용균 KAERI 한국원자력연구원 인공지능응용연구실 실장님의 인사이트를 통해
AI 에이전트가 원자력 기술에 가져올 변화와 기술과 인간이 협업하는 새로운 패러다임을 살펴봅니다 :)
|
|
|
📍AI가 만든 새로운 폭력 생태계 - 청소년 10명 중 4명 '사이버 폭력' 경험
청소년 10명 중 4명(42.3%)이 사이버폭력을 경험한 가운데 생성형 AI 확산이 새로운 위험 요인으로 부상하고 있습니다. 방송통신위원회와 한국지능정보사회진흥원이 발표한 '2025년도 사이버폭력 실태조사'에 따르면 청소년의 89.4%가 AI를 활용한 사이버폭력을 심각하게 인식하고 있는 것으로 나타났습니다. 이는 딥페이크·가짜정보 등 생성형 AI 기반 콘텐츠를 누구나 쉽게 제작할 수 있는 환경과 관련이 있는 것으로 분석되며, 특히 AI 기반 폭력은 기존 문자·메신저 중심의 언어폭력 구조와 결합되어 피해 확산을 강화하는 특징을 보이고 있습니다. 정부는 조사 결과를 바탕으로 청소년 대상 생성형 AI 및 딥페이크 관련 윤리 교육과 체험형 토론 교육을 강화할 계획이라고 밝혔습니다.
|
|
|
📍AI 시대 '청소년 보호' 강화 - 4개 부처 협력 본격화
정부가 생성형 AI 확산에 따른 디지털 역기능에 대응하고 청소년 보호를 강화하기 위해 관계 부처 간 협력체계를 구축했습니다. 방송통신위원회, 여성가족부, 과학기술정보통신부, 교육부는 업무협약을 체결하고 AI 윤리·안전 제도 정비, 위기 청소년 지원 확대, 디지털 역량 교육 강화 등에 함께 나서기로 했습니다. 특히 딥페이크 등 AI 악용 범죄에 대응해 디지털 성범죄 대응체계를 고도화하고 데이터 공유를 통한 AI 경쟁력 강화도 추진할 계획입니다. 또한 AI 성별 편향을 줄이고 여성 인력 성장을 지원하는 등 포용적인 디지털 환경 조성도 병행됩니다.
|
|
|
📍AI 시대 기본사회 전환 본격화 - '보건복지 기본사회기획단' 출범
보건복지부가 인공지능과 로봇 확산으로 인한 노동시장 재편과 소득 양극화에 대응하기 위해 '기본사회' 전환 논의를 본격화했습니다. '보건복지 기본사회기획단'을 출범시키고 소득·돌봄·의료를 중심으로 국민의 기본적 삶을 보장하는 정책 틀을 새롭게 정립할 계획입니다. 기획단은 세 가지 핵심 영역에서 기본 개념을 정리하고 기존 정책을 점검해 기본사회 방향에 맞게 재구조화하는 작업을 진행합니다. 또한 이를 토대로 중장기 추진목표와 소득보장 체계, 돌봄·의료 서비스 개편 방안 등을 함께 검토하며 AI 시대에 대응하는 사회 안전망 전반의 구조적 전환을 추진한다는 방침입니다.
|
|
|
📍AI 한계 드러낸 이색 채용 - '전문 AI 괴롭힘꾼' 등장
미국 AI 스타트업 멤비드가 대화형 AI의 성능 한계를 검증하기 위한 '전문 AI 괴롭힘꾼' 채용 공고를 내며 주목받고 있습니다. 해당 직무는 하루 8시간 동안 AI와 반복적으로 상호작용하며 기억 유지 능력과 응답 일관성, 오류 발생 패턴을 점검하는 역할로 일당 약 118만 원이 제시됐습니다. 이는 AI의 맥락 유지 실패와 환각 문제 등 구조적 한계를 가시화하기 위한 마케팅 캠페인의 일환으로 실제 서비스 환경에서의 사용자 경험 문제를 실증적으로 드러내려는 목적을 갖고 있습니다.
|
|
|
인공지능과 원자력
인공지능 에이전트를 활용한 더 안전하고 효율적인 원자력 기술 |
|
|
by 유용균
KAERI 한국원자력연구원 인공지능응용연구실 실장 |
|
|
계산기에서 동료로, 인공지능의 세 번째 도약
인공지능은 지금 세 번째 변신을 하고 있다. 첫 번째는 2020년 이전 인공지능 기술은 '수학적 도구'였다. 신경망이 복잡한 비선형 함수를 근사하고 머신러닝이 데이터 속 패턴을 찾아낸다. 원자력 분야에서도 AI는 센서 데이터로 고장을 예측하거나, 전산유체역학(CFD) 시뮬레이션을 대리 모델(Surrogate Model)로 가속하는 데 쓰였다. 이 도구는 유용하지만 엄밀한 정의에서 인공지능은 아니라 인공지능 학자들이 고안한 새로운 수학에 가깝다.
두 번째는 '지식을 주고받는 조수'다. 2020년 GPT3가 자연어 분야에서 그 가능성을 보여준 이후, 2022년 말 ChatGPT가 등장하여 우리에게 충격을 가져다 주었다. 거대 언어 모델(LLM)은 방대한 문서를 이해하고 질문에 답하고 많은 양의 문서를 작성하는데 도움을 주고 있다. 원자력 현장에서도 수만 페이지의 기술 문서를 검색·요약하고 인허가 질의에 답변 초안을 생성하는 데 LLM이 활용되기 시작했다.
그리고 지금, 세 번째 국면이 열리고 있다. 2024년 가을 GPT o-1이 최초로 인간의 IQ를 넘어선 이후로 AI가 스스로 목표를 설정하고 계획을 세우고 외부 도구를 활용하여 실제 세계에 영향을 미치는 '지능형 에이전트(Intelligent Agent)'로 진화하였다.
앤트로픽(Anthropic)이 2025년 공개한 클로드 코드(Claude Code)는 개발자가 자연어로 지시하면 AI가 코드베이스를 분석하고 파일을 수정하며 테스트를 실행하고 결과를 검증한다. 하나의 AI가 모든 것을 처리하는 것이 아니라 '기획자 에이전트', '검색 에이전트', '실행 에이전트', '평가 에이전트'가 기업의 팀처럼 역할을 나눠 협업하는 멀티 에이전트 시스템도 현실이 되고 있다. 클로드 코드를 비롯한 에이전트 프레임워크는 코딩의 영역을 넘어 프로그램으로 제어가능한, 사실상 컴퓨터로 우리가 하고 있는 모든 일을 자동화할 수 있는 만능 에이전트로 진화하고 있다. 이러한 발전은 코딩을 넘어 모든 연구 분야의 패러다임을 바꾸고 있다. |
|
|
미·중 빅 프로젝트: 제네시스 미션과 반석 프로젝트
중국: 반석(磐石) 프로젝트와 AI 과학 플랫폼
2025년 7월, 중국과학원 자동화연구소는 세계인공지능대회(WAIC)에서 연구에이전트 반석(ScienceOne)을 발표하였다. 반석은 전 세계 1억 7천만 편의 과학 문헌을 학습하고, 약 300개의 과학 계산 도구를 통합하였으며 단순한 문헌 검색이나 데이터 분석을 넘어 AI 에이전트가 연구 과제를 스스로 분해하고 필요한 도구를 편성하며 작업을 자동으로 연결하는 '멀티 에이전트 시스템'이다. 실제로 베이징 전자·양전자 충돌기(BEPC) 연구팀은 반석의 도구 편성 기능을 활용하여 입자물리 분석 워크플로우를 자동화하고 분석 효율을 크게 높였다.
미국: 제네시스 미션(Genesis Mission)과 프로메테우스(Prometheus)
중국의 과학기술 발전과 연구 에이전트 발표에 미국이 자극을 받은 것일까? 2025년 말, 미국 에너지부(DOE)는 트럼프 대통령의 행정명령에 따라 '제네시스 미션'을 발표했다. 제2의 아폴로 프로젝트, 멘하탄 프로젝트라고 까지 불리는 제네시스 미션은 17개 국립연구소, 산업계, 학계를 총동원하여 AI로 과학 연구를 혁신하겠다는 역사적 규모의 국가 프로젝트다. DOE는 26개 핵심 과제를 제시했는데 그 가운데 원자력 분야의 과제 코드명이 '프로메테우스(Prometheus)'다.
프로메테우스의 목표는 명확하다. AI를 활용하여 원자로의 설계, 인허가, 제조, 건설, 운영 전 과정을 혁신하되 인간이 핵심 판단을 유지하는 '휴먼 인 더 루프(human-in-the-loop)' 방식으로 설계 일정을 2배 단축하고 운영 비용을 50% 이상 절감하겠다는 것이다. 아이다호 국립연구소(INL)와 엔비디아(NVIDIA)가 핵심 파트너로 참여하여 생성형 AI, 디지털 트윈, 에이전틱 워크플로우(agentic workflow) 등 최신 기술을 원자력에 접목하고 있다. 특히 '에이전틱 워크플로우'는 설계 코드, 안전 해석, 제조 데이터, 운전 정보를 AI가 자동으로 연결·조율하여 연속적인 업무 흐름을 만드는 기술로, 앞서 설명한 에이전트 기술의 원자력판이라 할 수 있다. |
|
|
설계 기간을 절반으로: AI가 바꾸는 원자로 개발
원자로 하나를 설계하고 인허가를 받는 데는 통상 10년 이상이 걸린다. 프로메테우스가 이 기간을 절반으로 줄이겠다는 것은 목표로 하고 있다.
문서 작성의 자동화. 원자력 인허가에는 수만 페이지의 안전해석보고서(SAR)가 필요하다. 현재 이 문서의 상당 부분은 엔지니어가 수작업으로 작성한다. LLM 기반 에이전트는 기존 보고서 데이터베이스를 학습하여 초안을 생성하고, 규제 요건과의 정합성을 자동 검토할 수 있다. 사람은 최종 판단과 승인에 집중하게 된다.
해석 프로그램 실행의 가속. 원자로 안전 해석에 쓰이는 MOOSE, BISON, Griffin 같은 시뮬레이션 코드는 한 번 실행에 수일이 걸리기도 한다. 프로메테우스에서는 이들 코드를 NVIDIA GPU 아키텍처에서 가속하고, AI 대리 모델을 병행하여 설계 반복(design iteration) 속도를 획기적으로 높인다. 또한 디지털 트윈을 통해 실제 건설 전에 가상 환경에서 설계를 검증함으로써 설계 변경에 따른 지연을 줄인다.
인허가 과정의 효율화. 규제기관과의 질의·응답 과정에서 AI가 관련 규정과 선례를 즉시 검색·분석하여 대응 속도를 높인다. 미국 원자력규제위원회(NRC)도 AI 활용을 검토하고 있어 인허가 양쪽 모두에서 효율화가 진행될 가능성이 있다.
신형 원자로 개발을 위한 난제 해결. 인공지능 에이전트는 이미 새로운 연구 가설 생성에 활용되고 있으며 연구자들에게 많은 영감을 주고 있다. 따라서 앞으로 인공지능은 원자로 개발과정에서 많은 시간이 걸리는 문서 작성 및 검토 그리고 시뮬레이션 시간을 줄이는 것뿐만 아니라 궁극적으로 신형원자로를 개발하는데 풀리지 않고 있는 많은 난재를 해결하는 것에 도움을 줄 수 있을 것으로 기대한다. 이를 통하여 더 안전하고 깨끗한 차세대 원자로의 개발이 가속화 될 것으로 기대된다. |
|
|
운영비용 절반 감소: 스마트 원전의 현실
원전 운영비의 상당 부분은 인건비와 유지보수 비용이다. AI는 이 두 영역 모두를 변화시킨다.
운전원 업무의 재편. AI 에이전트가 원자로의 실시간 운전 데이터를 '인식'하고, 거대 언어 모델과 지식 그래프를 통해 현재 상태를 '추론'하며 디지털 트윈으로 미래를 '시뮬레이션'하여 최적 운전 전략을 '계획'할 수 있다면 운전원의 역할은 '조작자'에서 '감독자'로 바뀐다. 이는 운전원 수를 직접적으로 줄이는 것이 아니라, 한 명의 운전원이 관리할 수 있는 범위를 넓히고 반복적 판단 업무에서 해방시키는 방향이다.
예측 정비로 유지보수 혁신. 기존의 정기 점검 방식은 고장 여부와 무관하게 일정에 따라 부품을 교체하므로 비효율적이다. AI는 수천 개 센서의 시계열 데이터에서 미세한 이상 패턴을 감지하여 실제로 교체가 필요한 시점을 예측한다. 불필요한 정비를 줄이고 예상치 못한 고장에 의한 가동 중단도 방지할 수 있다. 아르곤 국립연구소(Argonne)는 이러한 AI 기반 예측 정비가 차세대 원자로의 운영 비용을 크게 낮출 수 있다는 연구 결과를 발표한 바 있다. |
|
|
더 안전한 원자력: 인적오류 감소와 중대사고 대응
AI가 원자력에 기여할 수 있는 가장 중요한 영역은 '안전' 분야이다.
인적오류의 감소. 원전 사고의 상당수는 인적오류에서 비롯된다. AI는 운전원의 피로, 주의력 저하, 절차 위반 등을 실시간으로 모니터링하고 경고할 수 있다. AI 기반 인적오류 감지·식별 시스템은 기존 방법으로는 포착하기 어려운 잠재적 오류까지 사전에 발견할 수 있는 것으로 나타났다.
중대사고 대응. 2011년 후쿠시마 사고 이후, 중대사고 시 인간의 판단이 극한 스트레스 하에서 얼마나 취약한지가 드러났다. 수소 폭발 가능성, 냉각수 주입 경로 선택, 방사능 확산 예측 등 수초 내에 복합적 판단을 내려야 하는 상황에서, AI는 시뮬레이션 데이터와 과거 사례를 종합하여 최적의 대응 전략을 제시할 수 있다. 물론 최종 결정은 인간이 내리지만 AI가 판단의 속도와 질을 높여주는 것이다. |
|
|
인간과 AI가 함께 열어 갈 원자력의 미래
강조해야 할 것은, 이 모든 변화가 '인간을 대체'하는 것이 아니라는 점이다. 제네시스 미션의 프로메테우스도 '휴먼 인 더 루프'를 핵심 원칙으로 명시하고 있다. 미래의 원자력 전문가는 기계적 운전 조작이나 문서 작성에 시간을 쓰는 대신 AI 시스템 전체를 관리·감독하는 '프로젝트 매니저'이자, 전략적 의사결정을 내리는 '전략가'가 될 것이다. AI에게 '안전'의 가치를 가르치고 그 결정이 우리 사회가 수용할 수 있는 범위 안에 있도록 하는 것은 여전히 인간의 몫이다.
계산기에서 조수로, 조수에서 에이전트로. 인공지능의 세 번째 도약은 인류가 만든 가장 복잡한 에너지 시스템인 원자력과 만나 새로운 가능성을 열고 있다. |
|
|
H:AI X TBS <언박싱 AI>
H:AI와 TBS 라디오가 함께하는 <언박싱 AI>의 14번째 방송이 4월 1O일(금) 오후 4시 진행됩니다.
이번 AI 라운지 코너에서는 유용균 KAERI 한국원자력연구원 인공지능응용연구실 실장님과 함께 'AI와 원자력의 미래'를 깊이 있게 논의합니다.
🗓️ 4/10(금) 오후 4시
📡 FM 95.1MHz
🔁 다시 듣기: 유튜브, 스포티파이, 팟빵 <인간지능연구소>
AI 시대, 인간의 자리를 함께 고민하는 시간
<언박싱 AI>와 함께 해주세요🧡
|
|
|
|