단순 업무도구와 고객용 서비스는 다르다…채용·의료·대출 판단은 영향부터 점검

생성형 AI로 상품 설명 한 줄을 만들었다고 곧바로 과태료 대상이 되는 것은 아니다. 온라인몰은 AI로 상품 설명 초안을 만들고, 동네 매장은 홈페이지에 고객용 챗봇을 붙이며, 작은 회사는 채용 지원서를 분류할 때 AI를 검토한다. 세 사례는 모두 AI를 쓰지만 법적으로 같은 위치에 서는 것은 아니다.

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2026년 1월 22일 시행됐다. 2026년 7월 21일에는 일부 개정 조항이 추가로 시행됐다. 시행 반년을 맞은 지금 소상공인에게 필요한 질문은 ‘AI를 쓰고 있는가’ 하나가 아니다. ‘AI를 내부 도구로 쓰는가, 고객에게 AI 제품·서비스를 제공하는가, 사람의 권리에 영향을 주는 판단에 관여시키는가’를 나눠 물어야 한다.

AI를 쓴다는 사실만으로 모두 같은 의무를 지는 것은 아니다

법은 ‘인공지능사업자’를 AI를 개발해 제공하는 사업자와, 다른 사업자가 제공한 AI를 이용해 AI 제품 또는 서비스를 제공하는 사업자로 정의한다. 여기서 핵심은 단순한 사용 여부보다 무엇을 고객에게 제공하느냐다.

생성형 AI로 회의록을 정리하거나 상품 설명 초안을 만든 뒤 사람이 검수해 업무에 쓰는 경우는 AI 기능 자체를 고객에게 제공하는 경우와 구분해서 봐야 한다. 반면 고객이 직접 대화하는 생성형 챗봇, AI 추천, 자동 콘텐츠 생성 기능을 서비스 일부로 제공한다면 ‘AI 이용사업자’에 해당할 가능성을 점검해야 한다.

경계가 언제나 선명한 것은 아니다. 같은 챗봇이라도 내부 직원의 문의 대응 초안을 만드는 데 쓰는지, 고객에게 답변을 직접 내보내는지에 따라 구조가 달라진다. 사업자는 도구 이름보다 입력자료, 결과물, 이용자, 최종결정자를 적어야 자신의 위치를 판단할 수 있다.

고객에게 AI 기능을 제공한다면 투명성이 출발점이다

법 제31조는 인공지능사업자가 고영향 AI나 생성형 AI를 이용한 제품·서비스를 제공하려는 경우, 해당 서비스가 AI에 기반해 운용된다는 사실을 이용자에게 미리 알리도록 한다. 생성형 AI가 만든 결과물에는 AI로 생성됐다는 사실을 표시해야 한다. 실제와 구분하기 어려운 가상 음향·이미지·영상은 이용자가 명확히 인식할 수 있는 방식으로 고지하거나 표시해야 한다.

소규모 사업자가 고객용 생성형 챗봇을 운영한다면 첫 화면, 이용약관, 대화창 안내 등 고객이 사용 전에 확인할 수 있는 위치를 검토해야 한다. AI 이미지나 영상을 서비스로 제공한다면 결과물이 AI 생성물임을 알리는 방식도 함께 설계해야 한다.

법 제43조는 제31조제1항의 사전 고지 위반, 국내대리인 미지정, 중지·시정명령 불이행 등에 3천만원 이하의 과태료를 규정한다. 다만 모든 AI 활용에 곧바로 같은 제재가 적용된다는 뜻은 아니다. 의무 주체와 서비스 구조, 위반 조항을 구체적으로 구분해야 한다.

채용·의료·대출의 AI는 사업 규모보다 영향이 중요하다

법은 보건의료, 의료기기, 채용·대출처럼 개인의 권리·의무에 중대한 영향을 주는 판단, 교통, 공공서비스 결정, 학생 평가 등을 고영향 AI 영역으로 열거한다.

예를 들어 소규모 회사가 AI로 지원자를 점수화해 합격 여부를 결정한다면 ‘직원이 몇 명인가’보다 AI 판단이 지원자의 권리에 어떤 영향을 주는지가 중요하다. 상담센터의 예약 안내나 단순 FAQ와 정신건강 상태 평가·상담 방향 결정도 같은 수준의 활용으로 보기 어렵다.

고영향 AI를 제공하는 사업자는 위험관리, 결과와 주요 기준에 대한 설명 방안, 이용자 보호, 사람의 관리·감독, 관련 문서 작성·보관 등을 점검해야 한다. 고영향 AI에 해당하는지 불분명하면 사업자가 먼저 검토하고 과학기술정보통신부에 공식 확인을 요청할 수 있다.

사람의 검토는 AI 결과에 도장을 찍는 형식적 절차가 아니다. AI가 낸 점수나 추천을 바꿀 수 있는 권한, 오류를 발견했을 때 멈출 수 있는 절차, 이용자가 이의를 제기할 수 있는 창구가 함께 있어야 감독이 작동한다.

소상공인은 ‘AI 사용 한 장 기록’부터 만들 수 있다

거창한 규정집보다 먼저 만들 것은 한 장짜리 AI 사용 기록이다. 다음 여섯 항목이면 현재의 위험 지점을 찾는 출발점이 된다.

  1. 사용 중인 AI 도구와 사용 목적을 적는다.
  2. AI에 넣는 자료와 생성되는 결과물을 적는다.
  3. AI가 내부 직원만 쓰는지, 고객이 직접 접하는지 구분한다.
  4. 채용·대출·의료·교육처럼 사람의 권리에 영향을 주는 판단에 관여하는지 확인한다.
  5. 고객 고지·생성물 표시·사람의 최종검토 방법을 적는다.
  6. 고영향 여부가 불명확하면 과기정통부 확인 창구나 전문가 검토를 이용한다.

이 기록은 법 적용 여부만 가르는 표가 아니다. 잘못된 답변이 고객에게 바로 전송되는지, AI가 만든 광고 문구를 누가 검수하는지, 담당자가 바뀌어도 같은 기준이 유지되는지를 확인하는 운영 문서다.

AI기본법상 의무 대상이 아니라고 판단되더라도 점검이 끝나는 것은 아니다. 개인정보, 저작권, 표시·광고, 의료·교육 등 개별 법률과 플랫폼 정책은 별도로 적용될 수 있다. 이 기사는 일반적인 정보이며 구체적인 서비스의 법적 판단은 개별 검토가 필요하다.

AI 시대의 첫 질문은 어떤 도구를 샀는지가 아니라, 그 도구가 누구의 결정을 대신하고 그 결과에 누가 책임지는가다.

자료 출처