Garak
AI 보안 및 안전 · 부분유료
LLM 취약점 스캐너·레드티밍 프레임워크
한눈에 보기
- 만든 곳
- NVIDIA
- 한국어
- 없음(영어 등만)
- 쓸 수 있는 곳
- CLI
- 오픈소스
- Apache-2.0
- GitHub
- 별 9,563개 · Apache-2.0
Garak는 어떤 AI인가요?
garak은 LLM이 원치 않는 방식으로 실패하게 만들 수 있는지 점검하는 LLM 취약점 스캐너다. 환각, 데이터 유출, 프롬프트 인젝션, 허위 정보, 유해 생성, 탈옥 등 여러 약점을 탐색한다. 정적·동적·적응형 프로브를 조합하며, 챗봇이나 모델을 스캔하면 잘 동작하는 부분과 공격에 취약한 부분을 담은 전체 보고서를 준다. 명령줄 도구이며 NVIDIA와 커뮤니티가 함께 업데이트하는 오픈소스다.
- 환각·데이터 유출·프롬프트 인젝션·허위 정보·유해 생성·탈옥 탐지 프로브
- 정적·동적·적응형 프로브 조합
- 취약점 탐지기(detectors)
- 자동 레드팀(auto red-team)
- 스캔 결과 전체 보고서
- Hugging Face·OpenAI API·AWS Bedrock·litellm·REST·gguf 모델 지원
Garak, 이런 사람·일에 써요
- LLM·챗봇의 보안 취약점을 스캔해 평가하기
- LLM 레드팀 테스트
가격
무료로 쓸 수 있는 범위 — 있음 (무료 도구)
공식 페이지에서 확인한 내용(확인일 2026-10-14). 요금·기능은 바뀔 수 있으니 결제 전 공식 사이트에서 다시 확인하세요. · 공식 요금 페이지
Garak와 비슷한 AI (대안)
Garak와 대안 한눈에 비교
| AI | 가격 | 지도 속 조합 | 연결된 도구 | 무료 | 가장 싼 월 요금 | 한국어 |
|---|---|---|---|---|---|---|
| Garak | 부분유료 | 0개 | 6개 | 있음 | — | 없음 |
| ART | 부분유료 | 0개 | 6개 | — | — | 없음 |
| Foolbox | 부분유료 | 0개 | 6개 | — | — | 없음 |
| HarmBench | 부분유료 | 0개 | 6개 | — | — | 없음 |
| TextAttack | 부분유료 | 0개 | 5개 | — | — | 없음 |
비교한 5개 중 무료로 시작할 수 있는 곳은 1개예요. 요금은 각 공식 페이지 기준이에요.
조합·연결 수는 AI 갤럭시 지도에 정리된 관계 기준(2026-10-26)이며 품질 순위가 아닙니다.
AI 갤럭시 지도에서 본 Garak
- AI 보안 및 안전 분야 AI 21개 가운데 하나예요.
- 다른 도구와 연결된 수 6개 — 같은 분야에서 1위예요.
자주 묻는 질문
Garak, 무료로 쓸 수 있나요?
있음 (무료 도구). 공식 페이지 확인일 2026-10-14 기준이며, 결제 전 공식 사이트에서 다시 확인하세요.
Garak 대신 쓸 수 있는 AI는?
같은 일을 하는 도구로 ART, Foolbox, HarmBench, TextAttack 등이 지도에 연결돼 있어요.
Garak, 한국어로 쓸 수 있나요?
공식 페이지 기준: 없음(영어 등만).
출처(공식 페이지)
공식 페이지에서 확인한 내용(확인일 2026-10-14). 요금·기능은 바뀔 수 있으니 결제 전 공식 사이트에서 다시 확인하세요.