가상 컨테이너 기반 인공지능 실행 인스턴스 관리 시스템

가상 컨테이너 기반 인공지능 실행 인스턴스 관리 시스템 및 그 운용 방법 (System and Method for Managing Artificial Intelligence Execution Instances Based on Virtual Containers)

본 발명은 인공지능 시스템 기술에 관한 것으로서, 보다 구체적으로는 인공지능 모델의 실행을 가상 컨테이너 단위로 생성·격리·관리하고, 각 실행 인스턴스의 입력·처리·출력·검증 과정을 운영체제 수준에서 통제하는 인공지능 실행 관리 시스템 및 그 운용 방법에 관한 것이다.

(1) 종래 기술의 일반적 구조 최근 인공지능 기술은 대규모 언어모델(LLM), 비전 모델, 추론 모델 등을 중심으로 발전하고 있으나, 대부분의 인공지능 시스템은 다음과 같은 공통 구조를 가진다. - 인공지능 모델이 서버 또는 클라우드 환경에서 실행됨 - 복수의 사용자, 기기, 서비스 요청이 동일한 실행 환경을 공유함 - 인공지능의 출력 결과가 별도의 구조적 검증 없이 외부로 전달됨 (2) 종래 기술의 문제점 이러한 구조는 다음과 같은 문제를 야기한다. ① 실행 단위의 비분리성: AI 요청 단위별 실행 환경이 분리되지 않아, 오류·환각·보안 사고 발생 시 원인 추적이 곤란함. ② 출력 통제 구조 부재: AI 출력 결과에 대한 구조적 검증·차단·재처리 메커니즘이 운영체제 수준에서 제공되지 않음. ③ 확장 불가능한 구조: 동일 AI 시스템을 개인, 기업, 로봇, 자율주행, 보안 시스템 등 서로 다른 영역에 적용하기 어려움. ④ 데이터 및 판단 혼재: 다수 주체의 입력과 판단 결과가 동일 실행 환경에서 처리되어 데이터 주권 및 보안 문제가 발생함. 이러한 문제는 단순히 인공지능 모델의 성능을 향상시키는 것으로는 해결될 수 없으며, 인공지능 실행 구조 자체를 재정의하는 운영체제 수준의 접근이 필요하다.

본 발명의 목적은 다음과 같다. 목적 1 인공지능 실행을 가상 컨테이너 단위의 실행 인스턴스로 생성하여, 각 인공지능 실행을 논리적으로 분리·격리하는 시스템을 제공하는 것이다. 목적 2 각 인공지능 실행 인스턴스의 입력, 처리, 출력, 검증, 기록 과정을 운영체제 수준에서 관리·통제하는 구조를 제공하는 것이다. 목적 3 동일한 구조를 개인 사용자, 기업 시스템, 로봇, 자율주행 장치, 보안 시스템 등 복수의 기술 영역에 공통적으로 적용 가능한 인공지능 실행 관리 시스템을 제공하는 것이다.

(1) 가상 컨테이너 생성부 - 사용자 요청, 기기 이벤트 또는 센서 입력이 발생할 경우 - 해당 요청 단위마다 독립적인 가상 컨테이너를 생성 - 가상 컨테이너 내부에서만 인공지능 모델이 실행되도록 구성 (2) 인공지능 실행 인스턴스 각 가상 컨테이너는 다음을 포함한다: - 인공지능 실행 환경 - 메모리 영역 - 정책 및 제한 규칙 - 출력 검증 모듈 컨테이너 외부에서는 해당 실행 인스턴스의 내부 데이터에 직접 접근할 수 없다. (3) 출력 검증 및 통제 모듈 - 인공지능 실행 결과는 외부로 전달되기 전 검증 계층을 거침 - 검증 결과가 기준 미달일 경우, 출력 차단, 재처리 또는 수정 수행 - 검증을 통과한 결과만 외부 시스템으로 전달 (4) 실행 인스턴스 관리부 각 인공지능 실행 인스턴스는 다음 상태 중 하나로 관리된다: - 생성 상태 / 활성 상태 / 대기 상태 / 종료 상태 / 폐기 상태 운영체제는 각 상태를 실시간으로 전환·관리한다.

- 인공지능 실행을 관리 가능한 단위로 분리 가능 - 인공지능 오류 및 환각에 대한 구조적 통제 가능 - 데이터 혼재 및 보안 사고 위험 감소 - 동일 구조로 다양한 산업 영역 확장 가능 - 기존 인공지능 서비스 구조 대비 회피 설계 곤란