AI에게 질문만 하던 때와 이메일, 파일, 업무 도구를 연결해 일을 맡기는 상황은 다릅니다. 답변이 틀리는 것에서 끝나지 않고 실제 자료가 수정되거나 메시지가 발송될 수 있기 때문입니다. AI 에이전트를 사용할 때는 성능만큼 어떤 작업까지 허용했는지를 확인해야 합니다.
[목차]
읽기와 쓰기는 다른 권한입니다
메일을 읽고 요약하는 데 필요한 권한과 답장을 발송하는 권한은 다릅니다. 파일을 찾아주는 기능도 내용을 읽는 것인지, 새 파일을 만드는 것인지, 기존 파일을 지우는 것인지 구분해야 합니다. Microsoft는 AI 에이전트에 필요한 범위의 권한만 부여하고 실제 행동을 추적할 수 있게 설계하도록 안내합니다. Microsoft의 AI 에이전트 최소 권한 원칙
연결 화면에서 다음 세 가지 질문을 해보세요. 어떤 계정에 연결되는가, 어느 자료에 접근하는가, 무엇을 변경할 수 있는가입니다. 개인 계정으로 연습하려다 회사 계정 전체를 연결하지 않도록 현재 로그인된 계정부터 확인하는 것이 좋습니다.
처음에는 범위를 작게 정해보세요
예를 들어 회의록 정리 기능을 시험한다면 별도의 연습 폴더와 가상 문서를 사용하는 방식이 있습니다. 자료를 읽고 초안을 만드는 단계까지 확인한 뒤, 공유나 발송은 사람이 검토하도록 남겨두세요. 실제 고객 자료를 넣기 전에는 조직의 사용 기준과 자료 처리 조건을 확인해야 합니다.
권한을 좁히는 옵션이 없다면 ‘아마 알아서 조심하겠지’라고 생각하기보다 해당 연결이 꼭 필요한지 다시 판단하는 편이 낫습니다. 도구에 따라 읽기 전용이나 승인 기능의 제공 여부는 다르므로 없는 설정을 있다고 가정해서는 안 됩니다.
문서 속 명령을 AI가 따라갈 수도 있습니다
외부 문서나 웹페이지에 AI의 행동을 바꾸려는 문구가 들어가는 위험을 간접 프롬프트 인젝션이라고 합니다. 사용자는 자료 요약을 요청했지만 자료 안에는 다른 정보를 보내라는 지시가 숨어 있는 식입니다. Microsoft는 외부 콘텐츠의 지시를 구분하고 권한과 실행 경로를 제한하는 다층 방어를 설명합니다. Microsoft의 간접 프롬프트 인젝션 방어 설명
일반 사용자라면 자동으로 생성된 답장에 엉뚱한 수신자가 들어갔는지, 요약에 필요 없는 첨부파일을 요구하는지부터 살펴보세요. ‘안전하게 작업해’라는 한 문장을 입력했다고 연결 권한 자체가 줄어드는 것은 아닙니다.
완료 메시지보다 실제 변경 내역을 확인하세요
‘처리했습니다’라는 답변만 보지 말고 만들어진 파일, 발송 대상, 공유 범위를 확인합니다. 가능하다면 작업 전후 기록을 남기고 테스트에 사용한 연결은 더 이상 필요하지 않을 때 해제하세요. 이미 실행된 작업과 앞으로의 접근 차단은 별개이므로 연결 해제만으로 과거 발송이나 변경이 취소되지는 않습니다.
AI 에이전트의 안전한 시작점은 전권 위임이 아니라 작은 범위에서의 확인 가능한 실행입니다. 편리한 기능인지 평가할 때도 ‘얼마나 많이 해주는가’와 ‘내가 결과를 확인하고 멈출 수 있는가’를 함께 보세요.
