사람의 검토를 포함한 설계
사람의 검토를 포함한 설계
AI
중요한 AI 결정이 실행되기 전에 사람이 검토하거나 승인하는 설계예요.
사람의 검토를 포함한 설계란?
실수의 비용이 크거나 되돌리기 어려운 지점에 사람을 배치해요. AI는 정보를 모으고 행동을 준비하며 사람은 확인, 수정 또는 거절해요.
검토를 넣을 지점: 일정 금액을 넘는 환불, 다수 고객에게 보내는 메시지, 가격·설정 변경, 외부 시스템 업로드, 법적으로 민감한 행동 등이에요. 시간이 지나면서 팀은 AI가 안정적으로 수행하는 업무의 검토를 완화하고 나머지는 유지하는 경우가 많아요.
예시
예를 들어 AI가 배송 지연에 관해 구독자 2,000명에게 보낼 일괄 이메일을 준비해요. 보내기 전에 팀원이 초안과 목록을 검토하고 한 문장을 고쳐 승인해요.
사람의 검토를 포함한 설계, 왜 중요한가요?
중요한 행동에 사람을 참여시키면 통제권을 유지하면서 AI를 폭넓게 쓸 수 있어요.
