AI 비서만 믿다가 보안 발등 찍힐라

삼성SDS, 과한 권한 위임 경고

인공지능(AI) 에이전트(비서) 도입 및 확산으로 사이버 보안 위협이 높아져 안전장치를 강화해야 한다는 분석이 23일 나왔다.

삼성SDS는 올해 기업에 영향을 끼칠 5대 사이버 위협을 이날 발표했다. 우선 자율적 업무 수행 주체로 발전 중인 AI 에이전트의 실행 과정에서 과도한 위임 및 권한 남용을 통해 데이터 유출, 무단 작업, 시스템 손상을 초래할 수 있다고 우려했다. 삼성SDS는 “AI에 최소 권한을 부여하고, 정보 변경이나 결제 등 민감한 명령 수행 시 AI 가드레일을 통한 실시간 모니터링 및 이상 행위를 탐지·차단해야 한다”고 설명했다. 차량 주행 중 도로 이탈을 막는 물리적 가드레일처럼 AI가 의도하지 않은 행동을 막을 장치가 필요하다는 것이다.



악성 소프트웨어인 랜섬웨어도 위협 요인이다. 최근 랜섬웨어는 피해 기업의 데이터 암호화, 탈취 데이터의 공개 협박, 디도스(DDoS) 공격, 피해 기업의 고객·파트너·미디어 대상 압박 등 4중 갈취 형태로 진화하고 있다. 이에 대응하려면 조기 복구 및 정상화를 위한 백업 체계 확보 등이 필요하다.

장진복 기자