AndreSzymanski15/ai-jailbreaks
AI API·모델 기타 정보
한 줄 요약
LLM 보안 검증 및 레드팀 테스트를 위한 AI 프롬프트 보안 연구 자료입니다.
설명
AI 기반 서비스를 개발 및 운영하는 1인 창업가는 악의적인 사용자 입력(프롬프트 침투/탈옥)으로부터 서비스를 보호해야 합니다. 본 저장소는 다양한 주요 LLM의 보안 취약점을 점검할 수 있는 모의 테스트용 데이터를 제공합니다. 출시 전 자사 AI 서비스의 시스템 프롬프트 허점을 점검하고 방어 기전을 강화하는 보안 진단 리소스로 활용할 수 있습니다.