배경훈 부총리 겸 과학기술정보통신부 장관이 23일 판교 AI 안전연구소를 방문해 간담회를 진행하고 있다.
인공지능(AI) 기술의 급속한 발전으로 이에 따른 위협도 커지는 가운데 정부가 AI 안전연구소를 주축으로 연내 AI 안전 계획을 마련한다.
배경훈 부총리 겸 과학기술정보통신부 장관은 23일 판교 AI 안전연구소를 방문해 “안전한 생태계를 조성하고 책임감 있는 AI 시대를 위해 적극 노력할 것”이라며 이같은 계획을 수립 중이라고 밝혔다.
배 부총리는 “AI를 만드는 것은 중요하지만 ‘좋은 AI’에 대한 고민은 부족했다”라며 “안전한 체계에도 집중해야 한다”라고 강조했다.
배 부총리는 이날 AI 안전연구소에서 김명주 AI안전연구소장을 포함해 산·학·연 전문가들과 안전한 AI를 위한 간담회를 가졌다.
이번 방문은 딥페이크 위험성이 부상하고 AI 기술 악용 가능성이 커지는 상황에서 안전의 중요성을 다시 환기하기 위해 마련됐다. AI 안전연구소는 지난해 설립된 기관으로 국가 차원의 AI 안전성 확보를 위한 기술과 정책을 연구하는 곳이다.
AI 안전연구소는 이날 딥페이크 탐지 기술, 미래 AI 위험 연구 등 진행하고 있는 연구를 소개하고 AI 에이전트 안전성 평가에 대한 시연을 진행했다.
김명주 소장은 “AI 에이전트를 유형별로 구분해 독립적인 보안 평가를 진행하고 있다”라며 “에이전트를 서비스하는 기업과도 협력해 AI 에이전트 시대의 안전성을 강화할 필요가 있다”라고 말했다.
이어진 간담회에서는 AI 위험 대응 기술 개발 현황과 AI 안전 생태계 조성 방안이 논의됐다. 정부는 AI 안전연구소를 중심으로 ‘국가AI 안전 생태계 조성 종합계획(가칭)’을 연내 수립한다는 목표다.
김태윤 SKT 부사장은 간담회에서 “서비스 입장에서는 AI 안전연구소에서 어느 정도의 가이드라인 제시가 필요하다. 기업 입장에서는 임의로 선택해 진행하기 굉장히 어렵다”라고 의견을 밝혔다.
또한 AI 기술도 해킹의 대상이 될 수 있다는 점에서 이에 대비해야 한다는 의견도 간담회서 공유됐다. 배 부총리는 “AI도 만약 해킹 공격이 시작되면 걷잡을 수 없을 것”이라며 “이에 빠르게 대응하고 선제적으로 막을 수 있는 환경을 만들어야 한다”라고 강조했다.
본문 수집 시각: 2025-10-23 22:30