| 제 목 | 석사과정 최민정 (지도교수:정희철), 탑티어 학회 EMNLP 2026 논문 채택 | ||||
|---|---|---|---|---|---|
| 작성자 | 관리자 | 작성일 | 2026-08-25 | 조회수 | 217 |
| 첨부파일 | |||||
 인공지능학과 석사과정 최민정 학생 (지도교수 정희철)의 논문이 올해 10월 유럽 헝가리에서 개최되는 국제학술대회 EMNLP 2026에 Findings로 채택되어 발표될 예정이다 (논문 제목: Do Backdoored LLMs Share Internal Trigger Representations? Evidence from Frozen SAE Feature Banks). EMNLP (Empirical Methods in Natural Language Processing)는 NLP 분야에서 세계 최고 수준의 권위를 인정받는 학술대회로, 올해 29.7%의 낮은 채택률(acceptance rate of 15.4% for Main Conference papers and 14.3% for Findings papers)을 기록하며 질적으로 매우 우수한 논문만을 선정하는 Top-tier conference다. 본 논문은 서로 다른 대규모 언어 모델 백도어 공격에서 반복적으로 나타나는 내부 특징이 새로운 공격에도 유효한 개입 지점으로 활용될 수 있는지를 분석하고, 이를 검증하기 위한 새로운 프로토콜 ‘Frozen SAE Feature Banks(FFB)’를 제안했다. 기존 연구가 특정 트리거 입력이 공격자가 의도한 응답을 생성하는지 확인하는 데 주로 집중했다면, 본 연구는 백도어 행동이 모델 내부의 어떤 특징과 생성 과정을 통해 나타나는지를 추적하는 데 초점을 맞췄다. FFB는 희소 오토인코더(Sparse Autoencoder, SAE)를 활용해 트리거 입력에서 반복적으로 증폭되는 특징을 선별하고, 평가 대상 공격과 모델을 제외한 상태에서 해당 특징 집합을 고정한 뒤 새로운 백도어에도 동일한 개입 효과가 나타나는지 검증한다. 총 1,500건의 평가에서 별도의 개입이 없을 때 1,478건에서 성공하던 백도어 공격은 FFB 적용 후 단 1건만 성공해, 공격 성공률(ASR)이 98.53%에서 0.07%로 감소했다. 반면 무작위로 선택한 특징을 제거하는 등의 대조 실험에서는 같은 효과가 나타나지 않았으며, 정상 과제의 평균 성능 변화도 작게 나타났다. 이는 FFB가 모델을 무작위로 손상시키는 방식이 아니라, 서로 다른 백도어 공격에서 전이 가능한 내부 개입 지점을 포착할 수 있음을 시사한다. 정희철 지도교수는 “이번 연구는 서로 다른 LLM 백도어 공격에서 공통적으로 활용되는 내부 특징을 규명하고, 이를 새로운 공격에까지 전이 가능한 방어 지점으로 활용할 수 있음을 실험적으로 보여줬다는 점에서 의미가 크다”며 “앞으로도 LLM·VLM 등 생성형 AI의 신뢰성과 안전성을 높이기 위한 AI Security 연구를 지속적으로 확대할 계획”이라고 전했다. 이어 “현재 관련 연구를 함께 수행할 석·박사과정 학생을 모집하고 있으며, LLM/VLM, AI Security, Machine Unlearning 및 AI Interpretability 등 차세대 인공지능의 안전성과 신뢰성에 관심 있는 학생들의 많은 지원을 기대한다”고 밝혔다. (연구실 홈페이지: https://sites.google.com/view/kvl) |
|||||
| [좋아요 1 ] | |||||
댓글 ( 0 )
