화웨이, AI 인간 통제 넘을 것… 장먀오 총괄 “보안 거버넌스 필수”

작성자: 픽틈 IT·테크팀
작성일: 2025년 7월 11일

“AI가 인간의 통제를 넘는 수준에 이를 것입니다.”

화웨이 장먀오 사이버보안 신뢰 구축 총괄이 **AI 보안 거버넌스의 중요성**을 강조했습니다.

1. AI 인간 통제 넘어설 가능성 경고

장 총괄은 17일 서울 코엑스 그랜드볼룸에서 열린 ‘국제해킹방어대회 & 보안 콘퍼런스 코드게이트 2025’ 기조 강연에서 “인간의 삶이 AI 영향력 아래 있는 디지털 세계에서도 이어지는 만큼, AI 보안이 더욱 중요해질 것”이라고 진단했습니다.

그는 AI 보안 위협을 크게 세 가지로 분류했습니다.

장 총괄은 “화웨이 팀은 매일 글로벌 사이버 보안 문제와 AI 서비스 취약점을 점검한다”며, AI 거버넌스를 구축하기 위해 **취약점 발견 시 리스크 경감 방안을 찾고 프로세스를 확립**한다고 설명했습니다.

화웨이가 제시한 AI 거버넌스 6대 원칙에는 투명성, 보안 기능, 프라이버시 보호 등이 포함됩니다. 또한 데이터, 모델, 콘텐츠, 앱, 실제 운영, 유지·보수 등 5가지 차원에서 **AI 보안 가드레일**을 마련해야 한다고 강조했습니다.

예를 들어, 데이터 가드레일은 특정 AI 데이터에 포함되면 안 되는 정보가 있는지 점검하는 방식입니다.

한편 이날 **과학기술정보통신부 주최 코드게이트 2025**는 국내 최대 해킹방어대회로, 66개국 2,778명이 온라인 예선에 참가했습니다.

우승자들은 과기부 장관상과 상금을 받았습니다.

AI가 인간 통제를 넘어설 미래가 현실로 다가오는 가운데, 화웨이는 **AI 보안 거버넌스 구축과 사이버보안 강화**를 최우선 과제로 삼고 있습니다. 디지털과 물리적 세계가 연결된 시대, AI 보안은 더 이상 선택이 아닌 필수입니다.