AI 에이전트를 스토어에 연결해도 안전할까요? 접근 권한, 비밀번호, 보안 체크리스트

AI 에이전트를 스토어에 연결해도 안전하려면 세 가지를 내가 통제해야 해요. 무엇에 접근할 수 있는지, 묻지 않고 무엇을 할 수 있는지, 어떤 기록을 남기는지예요. 에이전트에게 넓은 접근 권한과 공유 비밀번호를 주고 기록도 남기지 않으면 위험해져요. 무엇을 했는지 아무도 말할 수 없고, 더 하지 못하게 막을 수도 없기 때문이에요.

이 가이드는 에이전트가 내 시스템에 들어오는 방식, 온라인 스토어에 중요한 위험, 어떤 업체에든 쓸 수 있는 체크리스트, 연결 전에 서면으로 물어볼 질문을 설명해요. 마지막에는 Concierge가 각 항목을 어떻게 처리하는지 다뤄요.

• 지나친 접근 권한: 주문 질문에만 답하는 에이전트에게는 테마 변경을 게시하거나 할인을 수정할 권한이 필요 없어요. 권한이 하나 늘 때마다 잘못될 수 있는 일도 하나 늘어요.
• 되돌릴 수 없는 작업: 환불, 취소, 데이터 삭제예요. 사람이 요청하거나 승인해야 해요.
• 엉뚱한 고객과 나누는 대화: 이메일 주소나 주문 번호만 아는 사람에게 주문 정보를 알려 주는 경우예요.
• 채팅 속 비밀번호: 대화에 입력한 비밀번호는 로그, 대화 기록, 내보낸 파일에 남을 수 있어요.
• 남은 흔적: 작업이 끝난 뒤 컴퓨터에 남아 다음 작업에서 접근할 수 있는 파일, 세션, 데이터예요.
• 콘텐츠에 숨겨진 지시: 에이전트가 읽는 이메일, 웹페이지, 파일에 에이전트를 조종하려는 문구가 들어 있을 수 있어요. 이를 프롬프트 인젝션이라고 해요. 에이전트가 할 수 있는 일을 제한하면 나쁜 지시가 끼칠 피해를 줄일 수 있지만, 업체 자체의 방어를 대신하지는 못하니 그 부분을 물어보세요.
• 기록 없음: 에이전트가 무엇을 왜 했는지 볼 수 없으면 실수를 고치거나 무슨 일이 있었는지 증명할 수 없어요.

• 각 에이전트에는 맡은 일에 필요한 권한만 있어요.
• 각 에이전트는 내가 지정한 채널에서만 답해요.
• 에이전트가 스스로 결정한 변경은 승낙을 기다려요.
• 환불은 내 팀이 승인해요.
• 에이전트가 개인 정보를 알려 주거나 계정을 변경하기 전에 고객이 본인임을 증명해요.
• 누구도 채팅에 비밀번호를 입력하지 않아요. 웹사이트 로그인은 사람이 직접 해요.
• 코드나 파일이 필요한 작업은 격리된 컴퓨터에서 실행하고, 작업 후 그 컴퓨터를 지워요.
• 모든 요청, 승인, 작업, 답변이 기록되고 쉽게 검토할 수 있어요.
• 에이전트가 기억하는 내용으로 고객을 식별할 수 없고, 기억을 지우게 할 수 있어요.
• 도구 연결은 클릭 한 번으로 취소할 수 있고, 팀원이 떠나면 함께 해제돼요.
• 녹음과 데이터는 내가 정한 일정에 따라 삭제돼요.
• 에이전트를 켜기 전에 실제 고객이 없는 곳에서 테스트했어요.
• 에이전트와 채널을 변경할 수 있는 팀원이 누구인지 알고 있어요.

서면으로 묻고 답변을 보관하세요. 분명히 답하지 못하는 업체라면 그 자체가 하나의 신호예요.

• 인증: SOC 2 Type II처럼 보유한 보안 감사 인증은 무엇인가요? NDA를 맺고 보고서를 볼 수 있나요?
• 저희 팀의 로그인: SAML 기반 SSO(통합 로그인)를 지원하나요?
• 모델 제공업체: 어떤 AI 모델 제공업체가 저희 데이터를 처리하나요? 그중 저희 데이터로 학습하는 곳이 있나요?
• 프롬프트 인젝션: 이메일, 웹페이지, 파일에 숨겨진 지시가 에이전트를 조종하지 못하게 무엇으로 막나요?
• 접근: 각 에이전트를 특정 작업으로 제한할 수 있나요? 어떤 작업에 항상 승인이 필요한가요?
• 비밀번호: 에이전트는 웹사이트에 어떻게 로그인하고, 로그인 정보는 어디에 저장되나요?
• 격리: 에이전트는 어디에서 코드를 실행하거나 파일을 열고, 그 컴퓨터는 이후 어떻게 되나요?
• 기록: 무엇이 기록되고, 누가 볼 수 있고, 얼마나 보관되나요?
• 삭제: 녹음, 메모리, 고객 데이터는 어떻게 삭제하고, 데이터 삭제 요청은 어떻게 처리하나요?
• 하위 처리업체: 어떤 제3자가 어디에서 저희 데이터를 처리하나요?

저희를 포함해 모든 업체에 같은 목록으로 물어보세요. 모델 제공업체와 프롬프트 인젝션에 관한 답은 계약에 따라 달라지고 시간이 지나면 바뀌므로, 블로그 글이 아니라 업체의 서면 답변으로 받아야 해요.

Chargezen은 SOC 2 Type II 인증을 받았고 SAML 2.0 기반 SSO(통합 로그인)를 지원해요. 신뢰 센터와 보안 페이지를 보세요. Concierge에는 지금 다음과 같은 제어 기능이 있어요(자세한 내용은 에이전트 보안).

• 에이전트별 접근 권한: 각 에이전트의 Configure Agent 페이지에서 조회하거나 실행해도 되는 일과 답할 채널만 내가 체크해요. 어떤 기능이 없는 에이전트는 어떻게 요청받아도 그 기능을 쓸 수 없어요.
• 고객의 본인 확인: 에이전트가 개인 주문 정보나 계정 정보를 알려 주거나 고객 계정을 변경하기 전에, 고객이 로그인 코드로 확인해요.
• 스스로 떠올린 일은 승낙을 기다려요: 누군가 명확히 요청한 변경은 별도 승인 없이 실행돼요. 에이전트가 스스로 제안하는 일은 먼저 제안 형태로 물어봐요. 아무도 없을 때 돌아가는 예약 작업에서는 피해를 줄 수 있는 단계에 팀원의 상시 권한이나 승인이 필요해요. 에이전트는 반품을 접수하고, 환불은 내 팀이 맡아요.
• 작업마다 전용 컴퓨터: 코드, 스프레드시트, 파일이 필요한 작업에서는 에이전트가 다른 시스템과 분리된 자기 컴퓨터를 받아요. 일이 끝나면 꺼지고, 다음 작업은 새 컴퓨터에서 시작해요.
• 로그인은 내가 직접: 웹사이트에 로그인이 필요하면 에이전트가 화면을 넘겨주고 내가 직접 로그인해요. 비밀번호는 채팅에 들어가지 않아요.
• 모든 단계의 기록: 모든 요청, 승인, 도구 사용, 답변이 대화와 Operate > History에 저장돼요.
• 개인정보를 존중하는 메모리: 에이전트는 비즈니스가 돌아가는 방식을 배우고, 고객이 누구인지는 배우지 않아요. 각 메모리에는 대상이 정해져 있고, Forget을 쓰면 해당 메모리가 완전히 지워져요.
• 검증된 연결: ChatGPT, Claude 등의 어시스턴트는 OAuth로 로그인하고 연결한 팀원의 권한으로 일하며, 연결을 끊거나 그 팀원을 제거하면 접근 권한을 잃어요. Slack 요청은 서명 검증을 거쳐요.
• 보관 기간: 통화 녹음은 내가 정한 일수(1~3,650일)만큼 보관한 뒤 자동으로 삭제되고, 법적 보존을 건 녹음은 예외예요. Shopify 고객 데이터 삭제 요청도 처리돼요.
• 팀의 권한은 따로따로: Concierge 보기, 대화와 에이전트 관리, 채널 설정 변경, 녹음 관리는 각각 별도의 권한이에요.

• 일 하나를 맡은 에이전트를 하나 만들고, 그 일에 필요한 최소한의 기능만 주세요.
• 에이전트가 고객을 만나기 전에 Playground에서 실제 질문으로 테스트하세요.
• 음성을 켜기 전에 통화 녹음 정책을 정하세요.
• 팀에서 누가 에이전트와 채널을 관리할지 정하세요.
• 첫 주에는 매일 대화 기록을 검토하세요.

Concierge는 위의 제어 기능이 내장된 디지털 직원을 스토어에 제공해요. 승인, 작업마다 전용 컴퓨터, 로그인을 나에게 넘기는 브라우저, 개인정보 제어예요. Concierge Starter는 월 US$20에 크레딧 20,000개예요. Pro는 월 US$199에 크레딧 199,000개이고, 연 US$1,990로도 결제할 수 있어요. 추가 크레딧은 1,000개당 US$1이고, 전화와 문자 요금은 쓴 만큼 청구되며, 사용자별 요금은 없어요. 요금제를 확인하세요.

용어집: 최소 권한 접근, 로그인 인계, 에이전트 샌드박스, OAuth, 섀도 AI, AI 안전 규칙, 감사 추적 기록, 컴퓨터 사용, 브라우저 에이전트. 다음 글: 휴먼 인 더 루프(사람 검토) 유지하는 방법, AI 고객 상담 에이전트 4단계 도입, 범용 AI 에이전트가 Shopify 고객 지원을 맡을 수 있나요?

네, 각 에이전트에 맡은 일에 필요한 권한만 주고, 에이전트가 스스로 떠올린 일은 승낙을 기다리게 하고, 환불은 내 팀이 맡고, 모든 단계가 기록된다면요. 관리자 비밀번호를 요구하는 도구는 피하세요.

아니요. 내장 연결과 OAuth를 우선 쓰세요. 에이전트가 로그인이 필요한 웹사이트를 써야 할 때는 사람이 로그인해야 해요. Concierge에서는 에이전트가 화면을 내게 넘겨주고, 내 비밀번호는 채팅에 들어가지 않아요.

네. Chargezen은 SOC 2 Type II 인증을 받았고 SAML 2.0 기반 통합 로그인을 지원해요. 자세한 내용은 신뢰 센터를 보세요.

프롬프트 인젝션은 이메일, 웹페이지, 파일에 숨겨, 내가 요청하지 않은 일을 AI 에이전트가 하도록 조종하려는 문구예요. 각 업체에 어떻게 방어하는지 서면으로 묻고, 각 에이전트가 할 수 있는 일을 제한하세요.