Presenting Sessions: Panel Discussion 2

Bio

Ramneet received her Ph.D. from the University of Pennsylvania in 2023, working under Prof. Insup Lee at the PRECISE lab. She is currently an Advanced Computer Scientist at SRI’s Computer Science Lab. Her research focuses on enabling the reliable deployment of AI in safety-critical domains by developing tools for monitoring distribution shifts and physical attacks on deep neural networks, backed by statistical guarantees. She has also created methods for quantifying model performance in novel environments and runtime safety monitoring with provable assurances. Currently, she is extending her work to uncertainty quantification for Large Language Models to improve their reliability and interpretability in dynamic or high-stakes settings. Ramneet’s work has appeared in premier conferences such as HSCC, ICCPS, ICAA, SafeComp, NeurIPS, ICML, and AAAI. She was selected as one of the 41 top CPS Rising Stars from all over the US, and has been awarded with multiple distinguished paper awards.

람니트 카우르는 2023년 펜실베이니아 대학교에서 PRECISE 연구소의 이인섭 교수 지도하에 박사학위를 취득했다. 현재 SRI 컴퓨터과학연구소의 수석 컴퓨터과학자로 재직 중이다. 람니트의 연구는 통계적 보장을 바탕으로 분포 변화와 심층 신경망에 대한 물리적 공격을 모니터링하는 도구를 개발하여 안전 필수 영역에서 AI의 신뢰할 수 있는 배포를 가능하게 하는 데 중점을 두고 있다. 또한 새로운 환경에서의 모델 성능을 정량화하고 증명 가능한 보장을 통한 런타임 안전 모니터링 방법론을 개발했다. 현재는 대규모 언어 모델의 불확실성 정량화 연구로 영역을 확장하여 동적이거나 고위험 상황에서의 신뢰성과 해석가능성을 향상시키고 있다. 람니트의 연구는 HSCC, ICCPS, ICAA, SafeComp, NeurIPS, ICML, AAAI 등 최고 수준의 학회에서 발표되었다. 미국 전역에서 선정된 41명의 최고 CPS 라이징 스타 중 한 명으로 선정되었으며, 다수의 우수논문상을 수상했다.