[아이뉴스24 박지은 기자] SK하이닉스가 엔비디아의 인공지능(AI) 기술을 활용해 반도체 공정 시뮬레이션 속도를 30배 이상 높였다.
반도체를 실제로 만들기 전에 공정 결과를 예측하고, 최적의 생산 조건을 찾는 데 AI를 활용하는 것이다.
9일 SK하이닉스 미래기술연구원 김정환 팀장은 서울 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 이 같은 연구 성과를 발표했다.
SK하이닉스는 엔비디아와 협력해 반도체 연구개발에 AI를 접목하는 '기술컴퓨터지원설계(TCAD) 3.0'을 추진하고 있다. TCAD는 반도체를 실제로 제작하기 전에 컴퓨터로 설계와 제조 공정을 시험하는 기술이다.
김 팀장은 "반도체는 매년 새로운 제품 개발마다 새로운 장비와 소재가 도입되는 분야"라며 "모델의 정확성을 확보할 수 있는 기간이 다른 제조업보다 너무 짧다"고 설명했다.
특히 반도체 연구개발 단계에서는 실험으로 확보할 수 있는 데이터가 적은 반면 검토해야 할 공정 조건은 많다. SK하이닉스는 이러한 문제를 AI로 해결하고 있다.
대표적인 사례가 식각 공정이다. 식각은 반도체를 만드는 과정에서 필요한 회로와 구조를 남기고 나머지 재료를 깎아내는 작업이다.
식각에 사용하는 가스의 종류와 양, 온도, 압력 등에 따라 반도체가 깎이는 모양이 달라진다. 여러 공정을 반복하면 검토해야 할 조건도 크게 늘어난다.
SK하이닉스는 엔비디아의 물리 기반 AI 개발 도구인 '피직스니모(PhysicsNeMo)'를 활용해 식각 과정에서 반도체의 모양이 어떻게 변하는지 예측하는 자체 AI 모델을 개발했다.
이 모델은 기존 컴퓨터 시뮬레이션과 유사한 결과를 더 빠르게 얻을 수 있도록 설계됐다. AI로 다양한 공정 조건을 미리 시험하고, 실제 반도체를 제작하는 횟수를 줄이는 데 활용할 수 있다.
김 팀장은 "현업에서 수행하는 식각 공정은 5개 이상의 단계로 이뤄져 있다"며 "단계가 많아지면 경우의 수가 기하급수적으로 많아진다"고 말했다.
이어 "적은 데이터로 시뮬레이션과 동일한 결과를 내는 AI 모델을 개발하고, 이를 이용해 더 많은 데이터를 생산하는 방식이 해결책"이라고 설명했다.
SK하이닉스는 반도체 칩 전체에서 발생하는 열과 기계적 변형을 분석하는 기술도 개발했다.
반도체 내부의 작은 구조까지 정밀하게 계산하려면 막대한 연산이 필요하다. SK하이닉스는 엔비디아의 그래픽처리장치(GPU)를 활용해 계산을 여러 장치에 나눠 처리하는 방식으로 속도를 높였다.
그 결과 기존 32개 스레드를 사용하는 중앙처리장치(CPU) 환경과 비교해 30배 이상의 속도 향상을 확인했다. 여러 GPU를 연결했을 때도 연산 성능이 안정적으로 높아지는 결과를 얻었다.
이번 연구는 SK하이닉스가 추진하는 인공지능 전환(AX)의 일환이다. 미래기술연구원은 차선용 원장 주도로 반도체 연구개발에 AI를 활용하는 기술을 확대하고 있다. 차 원장은 지난달 말 SK그룹 사장단 인사에서 SK하이닉스 개발총괄을 겸직하게 됐다.
특히 SK하이닉스는 앞으로 AI가 시뮬레이션 모델 개발까지 돕는 '바이브 모델링'을 추진할 계획이다.
바이브 모델링은 사람이 원하는 작업을 설명하면 AI가 프로그램 작성을 돕는 '바이브 코딩'처럼, 반도체 연구자가 AI를 활용해 복잡한 시뮬레이션 모델을 만드는 방식이다.
김 팀장은 "피직스 AI 솔루션 개발을 바이브 코딩처럼 바이브 모델링 단계로 가져올 수 있다면 개발 속도를 높일 수 있을 것"이라며 "엔비디아와 함께 반도체 연구 생산성을 높여 나가겠다"고 말했다.
한편 엔비디아 AI 데이 서울 2026은 9일부터 10일까지 이틀간 서울 코엑스에서 열린다. 매디슨 황 엔비디아 수석이사의 방한 취소에도 이날 행사장에서는 거의 모든 발표 세션의 좌석이 가득 차는 등 높은 관심을 보였다.
/박지은 기자(qqji0516@inews24.com)