왼쪽부터 송현오 서울대 컴퓨터공학부 교수, 김진욱 서울대 컴퓨터공학부 연구원, 김영인 서울대 협동과정 인공지능 전공 연구원

서울대학교 공과대학은 컴퓨터공학부 머신러닝 연구실의 송현오 교수 연구팀이 Samsung AI Center와 함께 반도체 설계 검증에 필요한 검사 코드를 인공지능이 사람 대신 작성하는 AI 에이전트 기술 ‘Rule2DRC’를 개발했다고 밝혔다.

제조를 앞둔 반도체 칩은 설계 시 수천 개에 달하는 규칙을 위반했는지의 여부를 점검하는 ‘설계 규칙 검사(Design Rule Check, DRC)’를 거쳐야 한다. 이를 위해서는 글로 풀어 쓴 설계 규칙을 컴퓨터가 자동으로 검사할 수 있는 ‘검사 코드(DRC script)’로 일일이 변환해야 하는데, 이는 그동안 전문 지식을 갖춘 엔지니어가 직접 코드를 작성해 온 고난도 작업이다.

이 과정의 자동화를 위해 개발된 Rule2DRC는 사람이 쓴 설계 규칙을 검사 코드로 만드는 AI의 능력을 측정하는 대규모 평가 도구(벤치마크)다. AI가 작성한 코드를 실제 검사 엔진에서 직접 실행해 정상 작동 여부까지 확인할 수 있다. 따라서 이번 연구는 반복적인 반도체 설계 검증 작업에 소요되는 비용을 줄이고, 설계 현장에 AI 자동화 기술을 적용할 수 있는 길을 열었다는 평가를 받고 있다.

해당 연구 성과를 다룬 ‘Rule2DRC: Benchmarking LLM Agents for DRC Script Synthesis with Execution-Guided Test Generation’ 제하의 논문은 이번 달에 개최되는 AI 분야의 세계 최고 권위 학회 ‘ICML 2026’에서 채택·발표될 예정이다.

반도체 설계 검증 과정에서 이뤄지는 검사 코드(DRC script) 작성은 KLayout, SVRF와 같은 전문 언어, 반도체 공정에 대한 지식이 필요한 고난도 수작업이다. 즉, 새로운 공정 노드가 도입될 때마다 엔지니어가 처음부터 다시 작성해야 하는 노동집약적 업무였다.

이에 검사 코드 작성의 AI 자동화와 평가 도구 개발을 위한 연구들이 그간 시도돼 왔다. 그러나 기존 연구들은 평가 규모가 작고, AI가 만든 검사 코드를 실제로 실행해 검증하지 않은 채 정답 코드와의 유사성만 평가하는 한계가 있었다. 또한 AI가 코드를 작성하는 과정에서 정답 정보가 포함된 테스트 데이터를 미리 제공해야 하는 제약도 있었다.

따라서 자연어 설계 규칙을 실행 가능한 검사 코드로 정확하게 변환하고, 그 기능적 정확도를 신뢰성 있게 검증하는 과제는 여전히 풀리지 않은 난제로 남아 있었다.

이 문제의 해결에 나선 송현오 교수 연구팀은 삼성 연구자들과 공동으로 반도체 설계 검증 자동화를 위한 대규모 벤치마크 ‘Rule2DRC’를 개발하고, 이를 실제 사내 운영 환경에 적용할 수 있는 에이전트 응용 프로그램까지 개발하는 데 성공했다.

Rule2DRC는 사람이 쓴 설계 규칙을 보고, 검사 코드를 대신 작성하는 거대언어모델(LLM) 기반 AI의 실력을 측정하는 평가 도구다. 1000개의 ‘설계 규칙-검사 코드’ 문제와 1만3921개의 평가용 칩 레이아웃(반도체 설계 도면)으로 구성된 이 도구는 단순히 코드 유사도를 평가하는 데 그치지 않고, AI가 만든 코드를 실제 검사 엔진에서 직접 실행해 제대로 작동하는지의 여부를 평가한다.

그리고 연구진은 실행 결과를 바탕으로 여러 코드 후보 가운데 가장 정확한 코드를 선별하는 ‘SplitTester’ 기법도 함께 제안했다. 이 기술은 반도체 설계 검증의 반복에 투입되는 검사 코드 작성·검증 비용을 줄이고, EDA(전자설계자동화) 분야의 AI 자동화 시스템을 개발하는 데 활용될 수 있다.

또한 연구진은 ICML 2026 채택 논문의 연구에 더해, 삼성 사내 운영 환경에서 활용 가능한 ‘Layout-native AI Agent GUI App’도 개발하는 성과도 거뒀다. 이 애플리케이션은 엔지니어의 실제 작업 환경을 반영해, 반도체 레이아웃을 확인하는 기능과 AI가 검사 코드를 작성하는 기능을 하나의 화면에서 나란히 사용할 수 있도록 설계됐다.

삼성연구소 보안룸, Samsung AI Center를 직접 방문해 긴밀히 협업한 송현오 교수님은 해당 애플리케이션이 삼성의 사내 환경에서 실제로 구동될 수 있도록 개발·검증했다. 현재 이를 삼성의 사내 거대언어모델(LLM)과 연동하는 작업도 진행 중이다.

특히 연구진은 시연을 통해 AI가 사용자의 자연어 지시를 이해하고, 반도체 설계 도면에서 원하는 영역을 선택한 뒤 모서리 형태를 자동으로 수정하는 과정을 선보였다. 이는 AI 에이전트가 반도체 설계 도면과 검사 코드를 하나의 작업 환경에서 함께 이해하고 처리하는 ‘layout-native workflow(레이아웃 중심 작업 방식)’을 구현했다는 점에서 그 의미가 크다.

송 교수팀은 해당 연구성과들의 우수성을 인정받아 Samsung AI Center NPRC 워크샵에서 송현오 교수가 우수연구상을, 김진욱 연구원이 우수포스터상을 수상하는 쾌거를 거뒀다.

‘Rule2DRC’와 ‘Layout-native AI Agent GUI App’은 반도체 설계 검증 현장에서 검사 코드 작성·검증을 자동화해 엔지니어의 반복 업무 부담을 줄이고, 새로운 공정 노드 도입 시 발생하는 검증 비용을 절감할 것으로 기대된다. 특히 두 기술은 추가 변환 없이 사내 환경에 바로 적용 가능한 형태로 개발돼, 반도체 EDA(전자설계자동화) 자동화 기술의 빠른 상용화와 현업 생산성 향상에 기여할 전망이다.

연구를 지도한 송현오 교수는 “이번 성과는 반도체 설계 검증이라는 산업 현장의 문제를 AI 에이전트로 해결하고, 학술적 성과를 넘어 실제 사내 환경에 적용 가능한 GUI 애플리케이션까지 구현했다는 점에서 의미가 깊다”며 “향후 자연어 피드백 기반의 레이아웃 수정과 멀티모달 에이전트로 기술을 고도화하는 동시에 사내 운영 환경에서의 생산성 향상 효과를 정량 측정하고, 궁극적으로는 완전 자율(fully autonomous) AI 에이전트로 확장해 나가겠다”고 밝혔다.

이번 논문의 제1저자인 김진욱 서울대 컴퓨터공학부 연구원은 올해 여름 Amazon Annapurna Labs(아마존 안나푸르나랩)에서 리서치 인턴으로 근무할 예정이다.

한편 송현오 교수 연구팀은 Samsung AI Center와 함께 수행 중인 NPRC(Neural Processing Research Center) 과제와는 별도로, 복잡한 시각 환경을 더 정확히 예측하는 새로운 월드 모델(World Model) 기술 ‘Identifiable Token Correspondence’도 개발해 ICML 2026에서 발표할 예정이다. 월드 모델은 AI가 실제 환경을 일일이 겪지 않고도 머릿속으로 시뮬레이션하듯 미래 상황을 예측해, 더 적은 비용으로 학습할 수 있도록 돕는 기술이다.

최근 월드 모델 기술이 빠르게 발전하고 있으나, 기존 방식은 화면 속 사물들이 어디에 있는지, 앞뒤 장면이 어떻게 이어지는지를 충분히 반영하지 못하는 한계가 있었다. 이를 해결하기 위해 연구진은 이전 장면에서 중요한 정보(token)를 골라 다시 활용하는 새로운 방식을 고안했다. 이를 통해 화면 속 사물의 위치 관계와 시간에 따른 변화를 더 정확하게 예측할 수 있도록 했다. 그 결과, AI가 이전 장면의 정보를 바탕으로 상황을 판단하고 행동해야 하는 Crafter, Atari 100k* 등 대표적인 강화학습 평가 환경에서 최고 성능을 달성했다.

Crafter, Atari 100k: 각각 Google Research와 Google DeepMind 연구진이 개발한 강화학습 벤치마크. AI가 제한된 경험만으로도 이전 정보를 기억하고 활용하며 적절한 행동을 학습하는 능력을 평가하는 데 널리 사용된다.