Information Systems Laboratory (ISL)는 딥러닝 및 인공지능의 다양한 문제를 해결하기 위해 정보 이론적 접근 방식을 적용하는 연구실입니다. 저희 연구실에서는 현재 디퓨전 생성 모델, differential privacy, 대규모 언어 모델 (LLM) 미세 조정, 네트워크 압축 등을 이론적 관점에서 이해하는 연구를 수행하고 있습니다.
연구분야
학습이론정보이론프라이버시디퓨전 생성모델DNA 저장장치 및 생명정보학
대표 논문
Censored Sampling of Diffusion Models Using 3 Minutes of Human Feedback, NeurIPS 2023
Exact Optimality of Communication-Privacy-Utility Tradeoffs in Distributed Mean Estimation, NeurIPS 2023
Prune Your Model Before Distill It, ECCV2022
Neural Tangent Kernel Analysis of Deep Narrow Neural Networks, ICML2022
An Information-Theoretic Justification for Model Pruning, AISTATS2022