쿼리시스템즈

윤동한 상무

보안관제센터는 대량 경보, 반복 분석, 오탐 검증, 보고서 작성, 대응 판단으로 운영 부담이 커지고 있습니다. 생성형 AI와 AI 에이전트는 로그 요약, 경보 분류, 위협 인텔리전스 분석, 보고서 생성 등 SOC 업무를 자동화·고도화할 수 있습니다. 하지만 AI에 과도한 권한을 부여하면 프롬프트 인젝션, 민감정보 노출, 잘못된 판단, 무분별한 자동 대응 같은 위험이 발생할 수 있습니다. 따라서 AI가 어떤 데이터를 보고, 어떤 도구를 사용하며, 어디까지 행동할 수 있는지 통제하는 하네스 엔지니어링이 필요합니다. 이 강연은 통제 가능한 AI 보안 운영 에이전트 설계, 적용 시나리오, 안전장치, 성과 측정 방법을 실무 관점에서 제시합니다.