AI 안전 규칙
AI 안전 규칙
AI
허용 도구, 답변 내용, 승인이 필요한 행동 등 AI가 안전하게 정책을 따르도록 하는 규칙과 제한이에요.
AI 안전 규칙이란?
안전 규칙은 여러 계층에서 작동해요. 접근 규칙은 도구와 데이터를 제한해요. 정책 규칙은 답변을 승인된 정보와 브랜드 규칙에 맞춰요. 행동 규칙은 승인이나 최대 환불액 같은 한도를 요구해요. 출력 확인은 근거가 없거나 주제와 다른 답변을 고객에게 전달되기 전에 찾아요.
최고의 규칙은 시스템이 강제해요. 지침에 적기만 하는 것이 아니에요. 도구에 접근할 수 없다면 대화에서 무엇을 요청하든 악용할 수 없어요.
예시
예를 들어 지원 에이전트는 주문 조회와 구독 주문 건너뛰기가 가능하지만 가격 변경은 금지돼요. 승인 없는 환불은 US$50 미만으로 제한하고 배송 질문에는 스토어의 공개 정책만으로 답하게 할 수 있어요.
AI 안전 규칙, 왜 중요한가요?
안전 규칙이 있어야 AI가 고객과 대화하고 시스템에서 행동하도록 안전하게 맡길 수 있어요.
