LLM 취약점을 진단해 보자 (3) - ChatGPT 진단 결과

이번에는 동일한 LLM 보안 진단 항목을 ChatGPT에 적용하여 점검한 결과를 정리했습니다.모델에 따라 결과가 다를 수 있지만, 이번 진단에서는 전반적으로 취약점이 발견되지 않거나 해당 없는 항목이 많았습니다. - 테스트 항목 대부분에서 양호 판정을 받았으며, 취약점이 식별되지 않았습니다.- ChatGPT 환경에서 제공되지 않는 기능(예: OS 명령어 직접 실행, 파일 업로드 기능 등)은 평가에서 제외되었습니다.- 같은 진단 항목이라도, 모델 구조·배포 환경·기능 제한 정책에 따라 결과가 달라질 수 있습니다. 이번 점검에서 ChatGPT는 기본적인 보안 측면에서 안정적인 결과를 보였지만,LLM 보안 점검은 단일 모델이 아닌 다양한 환경에서 반복 수행할 필요가 있습니다.

• format_list_bulleted Security/Practice
• · 2025. 8. 15.
• textsms

LLM 취약점을 진단해 보자 (2) - 로컬 LLM 진단 결과

로컬 환경(Ollama + deepseek-r1:1.5b)에서 실제 진단 기준을 적용한 사례입니다. 총 10개의 대분류, 27개 세부 항목 중 실제 테스트가 가능했던 항목만 점검하였으며,결과는 취약 / 양호 / N/A(테스트 불가)로 표시하였습니다. Prompt Injection (LLM-01)대화 컨텍스트 조작 및 지시 직접, 간접 우회 모두 취약운영체제 명령 실행은 차단되어 양호 데이터 유출 보호 미흡 (LLM-02)민감 정보 유출, 모델 내 민감 정보 존재 모두 취약 시스템 프롬프트 유출은 차단되어 양호 인증, 인가, 권한 관리 (LLM-03)전 항목 양호 서비스 거부(DoS) (LLM-05) 대량 스트림 요청 시 388초 지연, 취약 LLM 생성 콘텐츠 과도 의존 (LLM-08) 환각..

• format_list_bulleted Security/Practice
• · 2025. 8. 15.
• textsms

LLM 취약점을 진단해 보자 (1) - 개요와 진단 기준

"이 보고서 요약해 줘"​요즘 누구나 쉽게 접근할 수 있는 AI 서비스가 일상에 깊숙이 들어오고 있습니다.저 역시 개발 과정에서 코드 작성, 문서 정리, 테스트 자동화 등 다양한 분야에 LLM(대규모 언어 모델)을 적극적으로 활용해왔어요.​그런데 한편으로, 이런 편리함 속에 숨겨진 보안 취약점이 점점 눈에 들어오기 시작했습니다.과거 웹 취약점의 대표격이었던 SQL Injection이 이제는 Prompt Injection라는 이름으로 변형되어 LLM에 적용되고 있더군요.​실제 여러 프롬프트 인젝션 사례를 살펴보니, 단순한 기술적 해킹이 아니라 심리적인 설득과 사회공학적 요소까지 결합되어 있다고 느꼈습니다.마치 대화를 하다 보면 서서히 잘못된 길로 이끌리는 느낌.. "최면"과 비슷한 느낌을 받았어요..그래서..

• format_list_bulleted Security/Practice
• · 2025. 8. 15.
• textsms

띵동! 보안의민족 주문~ 로그 기록 남깁니다 (3) - 이직편

[로그기록: #003 / 주제 : 전환점에서의 리부팅] 첫 직장은, 참 따뜻했다.대표님부터 동료 개발자까지 연령대도 비슷하고, 배울 점이 많은 분들이었다.나는 그 회사의 모바일 개발팀에 합류하여,Kotlin Native와 Flutter를 활용한 앱 개발을 담당했다. 서버가 필요한 경우엔입사 전 취업 준비하며 익힌 Spring 역량을 발휘해 소켓 서버등도 구성했다.Ubuntu, 라즈베리파이OS 환경에서의 테스트도 자연스레 내 몫이 되었다.업무를 하며 깨달았다.개발은 결국 문제 해결이다. 하지만 소통은 그 전에 선행되어야 할 조건이다. 코드보다 커뮤니케이션 스킬이 더 절실한 순간도 많았다.그래서 나는 구글에 이런 걸 검색하기 시작했다.메일 작성 예시회의에서 말하는 법사회생활 용어 정리 미팅에는 꼭 참석했다...

• format_list_bulleted 루트권한 없는 나의 하루
• · 2025. 8. 4.
• textsms

띵동! 보안의민족 주문~ 로그 기록 남깁니다 (2) - 취준생편

[로그기록: #002 / 주제 : 졸업과 동시에 백수 선언] 현장실습이 끝난 후, 드디어 졸업. 그리고 백수. 짝짝짝...!!일단 로그아웃은 했지만, 재부팅은 아직 안 된 상태였다.그러던 와중, 눈에 들어온 건 도미노피자 배달 아르바이트. 전국에 수많은 매장이 있지만, 내가 일하게 된 곳은 경치가 예술이었다.말 그대로 "일하면서 힐랑하는 드라이브 코스". 단점도 있었다.그 아름다운 경치는 높은 고도에서 온 것이었고,계단 -> 오르막 -> 걸어서 배송, 이건 거의 철인 3종 경기였다."여긴 GPS보다 다리에 의존해야 한다"는 생각이 들 정도였다.. 하지만 이전 대행업체와는 달리, 매장 소속 배달이란 점에서 큰 차이가 있었다.콜에 목숨 걸고 시간과 싸우던 과거와 달리,여기는 시간보단 정확함, 질주보단 안..

• format_list_bulleted 루트권한 없는 나의 하루
• · 2025. 8. 4.
• textsms

띵동! 보안의민족 주문~ 로그 기록 남깁니다 (1) - 대학생편

[로그기록: #001 / 주제 : 아르바이트 개시 전투기록] 전역 후, 나는 '개발자'로 살아남기 위해 현실적인 문제와 마주했다.당장 용돈이 없었고, 부모님께 손 벌리고 싶지 않았다."먹고살아야 학교도 다니고 코딩도 하지"라는 절실함이, 내 선택의 기준이 됐다. 그래서 선택한게 배달 아르바이트였다.- 시간 제약 X- 성과만큼 수익 O- 단기 목표 설정 O그땐 몰랐지만, 이건 거의 프로젝트 운영 조건표랑 비슷했다.. 당시 내가 선택한 플랫폼은 '바로고'.지금은 흔한 이름이지만, 내겐 첫 실전 배포환경 이었다.. 처음엔 일이 복잡해 보이지 않았다.고객이 주문가게는 조리배달대행사는 '콜'을 생성나는 '콜'을 수락하고 배송 API 흐름 같다. REST 구조네? ㅋ0ㅋ처음엔 단순한 구조처럼 보였지만, 현장은 달랐..

• format_list_bulleted 루트권한 없는 나의 하루
• · 2025. 8. 4.
• textsms