보안 업무 AI 에이전트, LY 보안 팀이 판단을 사람에게 남긴 방식
판단 준비는 AI가, 판단은 담당자가. LY 보안 팀 세 곳이 그은 선
더블테이크 노아 - 3분 분량 - 처음 쓴 날
보안 업무는 AI에 맡길까
LY 보안 팀들은 AI에게 보안 판단을 맡기지 않고 판단 준비를 맡겼다. 자료를 모으고 정리하는 일은 AI가 하고, 근거를 종합해 결론을 내는 단계는 담당자에게 남겼다. AI 에이전트에 줄 권한도 오래 쓰는 열쇠가 아니라 범위와 기간이 정해진 자격으로 묶었다.
AI에게 보안 판단을 맡길 수 있나?
박경준, 한주홍, 안상환 님 (LY 보안 R&D, 보안 개발): "저희는 이 두 극단 사이에서, 사람의 판단을 대신하지 않고 판단 준비를 돕는 일부터 시작해 단계적으로 넓혀 가는 쪽을 택했습니다."[1]
이 팀이 만든 SAGE는 Jira, Slack, 웹 세 곳에서 부른다. 진입점은 달라도 AI가 공식 판단을 확정하지 않는다는 원칙은 세 곳이 같다[1].
끝까지 사람에게 남긴 단계는?
박경준, 한주홍, 안상환 님 (LY 보안 R&D, 보안 개발): "가장 중요한 5단계(근거를 종합해 분석하고 판단하는 일)는 그대로 담당자에게 남깁니다."[1]
앞 단계에서 AI가 정리한 자료는 담당자가 참고하는 제안으로만 쓰인다. 결론의 책임이 누구에게 있는지가 흐려지지 않게 한 설계다.
AI를 지키는 가드레일 모델은 무엇으로 평가하나?
배수만 님 (LY Applied ML): "따라서 단어에 매몰되지 않고 '방어, 예방, 교육'이라는 전체 맥락을 가드레일 모델이 제대로 읽어내는지가 중요한 평가 기준이 됩니다."[2]
배수만 님은 코딩 에이전트로 취약점 시험 문장을 범주별로 모으고 만들어 가드레일 모델을 다듬었다[2]. 보안 단어가 들어간 질문이 모두 공격은 아니다. 방어를 배우려는 질문까지 막으면 모델이 쓸모를 잃는다.
AI 에이전트에게는 어떤 권한을 주나?
김정우 님 (LY 보안 플랫폼 엔지니어): "사전에 정해진 예측 가능한 루틴을 실행하는 서비스 계정도 아니고, 자신의 행동에 즉각 책임을 질 수 있는 사람도 아닙니다."[3]
김정우 님 (LY 보안 플랫폼 엔지니어): "핵심은 AI 에이전트가 장기적인 마스터 키를 보유하는 것이 아니라 기업 정책 엔진이 평가한 특정한 경계 내에서만 작동한다는 점입니다."[3]
에이전트는 사람도 아니고 정해진 일만 하는 서비스 계정도 아니다. 그래서 기존 권한 모델 어디에도 그대로 들어맞지 않는다. 김정우 님 글은 로그인할 때 받은 토큰을 인가 권한처럼 쓰면 안 된다는 점을, 제목처럼 실패를 하나씩 따라가며 보여 주는 실습이다[3].
세 팀의 선을 나란히 놓으면?
SAGE [1]
- AI에 맡긴 일
- 자료 수집과 정리, 판단 준비
- 사람이나 정책이 쥔 일
- 근거 종합, 분석, 판단
가드레일 모델 [2]
- AI에 맡긴 일
- 취약점 시험 문장 수집과 생성
- 사람이나 정책이 쥔 일
- 맥락을 읽는지 평가하는 기준
에이전트 인가 [3]
- AI에 맡긴 일
- 정해진 경계 안의 작업
- 사람이나 정책이 쥔 일
- 정책 엔진이 매번 권한 평가
| 기록 | AI에 맡긴 일 | 사람이나 정책이 쥔 일 |
|---|---|---|
| SAGE [1] | 자료 수집과 정리, 판단 준비 | 근거 종합, 분석, 판단 |
| 가드레일 모델 [2] | 취약점 시험 문장 수집과 생성 | 맥락을 읽는지 평가하는 기준 |
| 에이전트 인가 [3] | 정해진 경계 안의 작업 | 정책 엔진이 매번 권한 평가 |
세 기록은 모두 LY 안의 서로 다른 보안 팀이 쓴 글이다. 보안 직무 전체의 표준이라기보다 한 회사가 그은 선으로 읽는 편이 맞다. 다만 세 팀이 각자 다른 일을 하면서도 판단과 권한을 AI에게 통째로 넘기지 않았다는 점은 같다.
AI 결과를 어디까지 믿고 어디서 멈출지 고르는 감각, 4분 문제로 확인해 보자
4분 테스트 하기자주 묻는 질문
- 보안 업무에 AI를 쓰면 판단까지 자동화되나?
- LY SAGE는 그렇게 설계하지 않았다. AI의 출력은 참고 제안이고 근거를 종합해 판단하는 단계는 담당자가 맡는다.
- AI 에이전트에 사람 계정 권한을 그대로 줘도 되나?
- 김정우 님 글은 반대 방향이다. 오래 쓰는 마스터 키 대신 정책 엔진이 정한 경계 안에서만 움직이게 한다.
- 보안 직무 지원자는 AI 경험을 어떻게 보여 주면 좋나?
- AI를 어디까지 쓰고 어디서 멈췄는지, 그 선을 왜 거기에 그었는지를 설명하면 위 팀들의 기준과 맞는다.
출처
- 1보안 업무를 위한 AI 에이전트 플랫폼 SAGE 개발기 1편: 판단은 사람에게 남기는 설계 LY Tech Blog, 2026.08.18
- 2코딩 에이전트를 활용한 취약점 수집/생성 자동화로 가드레일 모델 고도화 LY Tech Blog, 2026.03.25
- 3ID-JAG The Hard Way: 실패로 배우는 AI 에이전트 보안 핸즈온 LY Tech Blog, 2026.06.17

