왼쪽부터 서울대학교 전기정보공학부 유선규 교수(공동 교신저자), 서울대학교 전기정보공학부 박남규 교수(공동 교신저자), 서울시립대학교 전자전기컴퓨터공학부 박현희 교수(공동 교신저자), 서울대학교 전기정보공학부 김경훈 연구원(제1저자)

서울대학교 공과대학 전기정보공학부 유선규·박남규 교수 연구팀은 서울시립대와 영국 엑시터대와의 국제 공동연구를 통해 비가환(Non-Abelian) 물리를 광집적회로에서 구현하는 프로그래머블 스피너 격자에 성공해 위상학적 큐비트 동작 원리를 고전적으로 모사할 수 있음을 입증했다고 밝혔다.

이번 연구는 빛의 내부 자유도를 스핀처럼 다루는 유사 스핀 모드를 행렬 형태로 정밀 제어해, 연산 순서에 따라 결과가 달라지는 비가환 물리를 광집적회로에서 구현한 성과다. 연구에는 서울시립대 전자전기컴퓨터공학부 박현희 교수와 영국 University of Exeter 젠슨 리(Jensen Li) 교수가 참여했다. 연구 결과는 물리 분야의 세계적 학술지 Physical Review Letters에 지난 1월 30일 게재됐다.

연구팀은 광소자 상의 유사 스핀 모드 간 결합을 행렬 연산으로 수행하는 단위 소자를 제시하고, 위상학적 양자컴퓨팅의 핵심 동작인 땋음(braiding)을 광 모드 얽힘 구조로 시연했다. 이를 통해 빛의 상태를 매듭처럼 엮는 방식으로 비가환 양자 현상을 고전적으로 모사할 수 있음을 확인했다.

또 서로 다른 위상 물질의 경계에서 ‘비가환 계면’이라는 새로운 특성을 관찰했다. 이 계면에서는 위상학적으로 보호되는 광학 상태가 혼성화돼 에너지 밴드갭이 다시 열리는 현상이 나타났으며, 이는 광학 연산에 요구되는 에러 저항성과 제어 효율을 동시에 확보할 수 있는 설계 자유도를 제공한다는 설명이다.

이번 성과는 결함과 공정 편차에 민감했던 기존 광학 연산의 한계를 보완할 대안으로 평가된다. 연구진은 재구성 가능한 광집적회로에서 비가환 동역학과 위상 물리를 제어함으로써, 반복적인 미세 보정과 안정화 비용을 줄이고 안정성과 제어성을 동시에 만족시키는 경로를 제시했다고 밝혔다.

유선규·박남규 교수는 ‘이번 연구를 통해 광집적회로에서 구현 가능한 위상학적 자유도를 극대화하는 데 성공했다’며 ‘장기적으로는 실리콘 포토닉스 기술 기반 광집적회로 내에서 결함에 강한 광자 AI를 구현하는 것이 최종 목표’라고 밝혔다. 제1저자인 김경훈 연구원은 ‘비가환 현상을 보다 깊이 이해할 수 있었으며, 이번 연구 결과가 AI 및 양자 기술 전반에 응용되길 기대한다’고 말했다.

김경훈 연구원은 현재 Massachusetts Institute of Technology에서 박사과정을 밟으며 초전도 양자컴퓨터 연구를 수행 중이다. 이번 연구는 과학기술정보통신부 글로벌 선도연구센터(IRC)와 기초연구실(BRL) 사업, 우수신진연구 사업, 서울대 창의선도 신진연구자지원사업의 지원을 받아 진행됐다.