보안 업무 AI 에이전트, LY 보안 팀이 판단을 사람에게 남긴 방식

판단 준비는 AI가, 판단은 담당자가. LY 보안 팀 세 곳이 그은 선

더블테이크 노아 - 3분 분량 - 처음 쓴 날

DOUBLETAKE직무별 실무자 이야기

보안 업무는 AI에 맡길까

LY 보안 팀들은 AI에게 보안 판단을 맡기지 않고 판단 준비를 맡겼다. 자료를 모으고 정리하는 일은 AI가 하고, 근거를 종합해 결론을 내는 단계는 담당자에게 남겼다. AI 에이전트에 줄 권한도 오래 쓰는 열쇠가 아니라 범위와 기간이 정해진 자격으로 묶었다.

AI에게 보안 판단을 맡길 수 있나?

박경준, 한주홍, 안상환 님 (LY 보안 R&D, 보안 개발): "저희는 이 두 극단 사이에서, 사람의 판단을 대신하지 않고 판단 준비를 돕는 일부터 시작해 단계적으로 넓혀 가는 쪽을 택했습니다."[1]

이 팀이 만든 SAGE는 Jira, Slack, 웹 세 곳에서 부른다. 진입점은 달라도 AI가 공식 판단을 확정하지 않는다는 원칙은 세 곳이 같다[1].

끝까지 사람에게 남긴 단계는?

박경준, 한주홍, 안상환 님 (LY 보안 R&D, 보안 개발): "가장 중요한 5단계(근거를 종합해 분석하고 판단하는 일)는 그대로 담당자에게 남깁니다."[1]

앞 단계에서 AI가 정리한 자료는 담당자가 참고하는 제안으로만 쓰인다. 결론의 책임이 누구에게 있는지가 흐려지지 않게 한 설계다.

AI를 지키는 가드레일 모델은 무엇으로 평가하나?

배수만 님 (LY Applied ML): "따라서 단어에 매몰되지 않고 '방어, 예방, 교육'이라는 전체 맥락을 가드레일 모델이 제대로 읽어내는지가 중요한 평가 기준이 됩니다."[2]

배수만 님은 코딩 에이전트로 취약점 시험 문장을 범주별로 모으고 만들어 가드레일 모델을 다듬었다[2]. 보안 단어가 들어간 질문이 모두 공격은 아니다. 방어를 배우려는 질문까지 막으면 모델이 쓸모를 잃는다.

AI 에이전트에게는 어떤 권한을 주나?

김정우 님 (LY 보안 플랫폼 엔지니어): "사전에 정해진 예측 가능한 루틴을 실행하는 서비스 계정도 아니고, 자신의 행동에 즉각 책임을 질 수 있는 사람도 아닙니다."[3]

김정우 님 (LY 보안 플랫폼 엔지니어): "핵심은 AI 에이전트가 장기적인 마스터 키를 보유하는 것이 아니라 기업 정책 엔진이 평가한 특정한 경계 내에서만 작동한다는 점입니다."[3]

에이전트는 사람도 아니고 정해진 일만 하는 서비스 계정도 아니다. 그래서 기존 권한 모델 어디에도 그대로 들어맞지 않는다. 김정우 님 글은 로그인할 때 받은 토큰을 인가 권한처럼 쓰면 안 된다는 점을, 제목처럼 실패를 하나씩 따라가며 보여 주는 실습이다[3].

세 팀의 선을 나란히 놓으면?

  • SAGE [1]

    AI에 맡긴 일
    자료 수집과 정리, 판단 준비
    사람이나 정책이 쥔 일
    근거 종합, 분석, 판단
  • 가드레일 모델 [2]

    AI에 맡긴 일
    취약점 시험 문장 수집과 생성
    사람이나 정책이 쥔 일
    맥락을 읽는지 평가하는 기준
  • 에이전트 인가 [3]

    AI에 맡긴 일
    정해진 경계 안의 작업
    사람이나 정책이 쥔 일
    정책 엔진이 매번 권한 평가

세 기록은 모두 LY 안의 서로 다른 보안 팀이 쓴 글이다. 보안 직무 전체의 표준이라기보다 한 회사가 그은 선으로 읽는 편이 맞다. 다만 세 팀이 각자 다른 일을 하면서도 판단과 권한을 AI에게 통째로 넘기지 않았다는 점은 같다.

AI 결과를 어디까지 믿고 어디서 멈출지 고르는 감각, 4분 문제로 확인해 보자

4분 테스트 하기

자주 묻는 질문

보안 업무에 AI를 쓰면 판단까지 자동화되나?
LY SAGE는 그렇게 설계하지 않았다. AI의 출력은 참고 제안이고 근거를 종합해 판단하는 단계는 담당자가 맡는다.
AI 에이전트에 사람 계정 권한을 그대로 줘도 되나?
김정우 님 글은 반대 방향이다. 오래 쓰는 마스터 키 대신 정책 엔진이 정한 경계 안에서만 움직이게 한다.
보안 직무 지원자는 AI 경험을 어떻게 보여 주면 좋나?
AI를 어디까지 쓰고 어디서 멈췄는지, 그 선을 왜 거기에 그었는지를 설명하면 위 팀들의 기준과 맞는다.

출처

  1. 1보안 업무를 위한 AI 에이전트 플랫폼 SAGE 개발기 1편: 판단은 사람에게 남기는 설계 LY Tech Blog, 2026.08.18
  2. 2코딩 에이전트를 활용한 취약점 수집/생성 자동화로 가드레일 모델 고도화 LY Tech Blog, 2026.03.25
  3. 3ID-JAG The Hard Way: 실패로 배우는 AI 에이전트 보안 핸즈온 LY Tech Blog, 2026.06.17

이 글은 더블테이크 노아가 누구나 열어 볼 수 있는 공개 자료만 근거로 썼어요. 초안은 AI 도구로 쓰고, 사람이 출처와 맞춰 보며 고쳤어요. 틀린 내용은 hello@dropdown.xyz로 알려 주세요. 확인하고 고친 날을 글에 남겨요. 편집 원칙 보기