삼성, 2028년 1.4나노 양산 도전…옹스트롬급 미세공정의 OPC 연산 병목 해결 관건

반도체 미세공정의 끝이 어디인지를 두고 업계의 관심이 다시 한번 집중되고 있다. 삼성전자가 현존 최선단 공정인 2나노를 넘어, 머리카락 굵기를 100만 분의 1로 쪼갠 수준인 옹스트롬(Å) 단위의 회로 선폭을 4년 내에 양산하겠다는 목표를 세웠다. 1나노는 10옹스트롬에 해당하며, 이번 전략의 최종 목표는 1.4나노(14옹스트롬)급 공정을 2028년께까지 확보하는 것으로 알려졌다.

이 같은 초미세 공정은 단순히 선폭을 줄이는 것 이상의 난제를 안고 있다. 빛을 이용해 웨이퍼 위에 회로를 새기는 노광(포토리소그래피) 공정에서, 선폭이 원자 수준에 가까워질수록 빛의 회절과 간섭 같은 물리적 현상이 치명적인 오차를 유발한다. 이 왜곡을 미리 예측하고 보정하는 기술이 바로 광학근접보정(OPC)인데, 옹스트롬급 공정에서는 계산해야 할 변수가 20개 이상으로 폭증해 기존 컴퓨터로는 연산 병목 현상이 불가피하다는 분석이 업계에서 제기되고 있다.

양자컴퓨터와 AI의 결합…OPC 혁신 실마리 찾는다

삼성전자는 이 병목을 해소하기 위해 차세대 연산 기술인 양자컴퓨팅을 OPC 시뮬레이션에 접목하는 방안을 추진 중이다. 양자컴퓨터는 기존 비트 대신 큐비트를 활용해 여러 상태를 동시에 표현하는 ‘양자 중첩’과 큐비트 간 ‘양자 얽힘’을 이용, 방대한 변수를 병렬로 처리할 수 있다. 삼성은 여기에 그래픽처리장치(GPU) 기반 고전 컴퓨터를 함께 운용하는 하이브리드 방식을 채택했다. 양자컴퓨터가 노광 시뮬레이션의 핵심 연산을 맡고, GPU가 그 결과물을 후처리하는 반복 연산을 담당하는 구조다.

초기 단계의 양자컴퓨터는 필연적으로 연산 오류를 수반하는데, 삼성은 이 문제를 AI 기반 실시간 오류 보정 기술로 극복할 계획이다. 이 연구의 선봉에는 삼성전자 반도체연구소가 10년 넘게 공들여온 OPC 내부 역량과, 최근 합류한 계열사 삼성SDS의 선행 연구 조직이 함께 서 있다. 삼성SDS는 올해 하반기 중으로 관련 기술실증(POC)에 착수할 예정이다.

그룹 역량 결집…삼성만의 ‘초격차’ 전략 본격화

이번 프로젝트는 반도체 설계부터 제조까지 전 과정을 아우르는 삼성그룹의 수직 계열화 강점을 극대화하려는 의도로 읽힌다. D램, 낸드플래시, 로직, 파운드리 등 각 분야별로 별도의 OPC 전담팀을 운영하며 제품 특성에 맞춘 최적화를 동시에 진행 중이다. 특히 파운드리 부문은 현재 양산 중인 2나노를 넘어 1.4나노 양산을 4년 안에 실현한다는 목표 아래, 그룹 차원의 연구개발(R&D) 자원을 집중하고 있다.

업계 일각에서는 이번 행보를 이재용 삼성전자 회장이 강조해온 ‘초격차 전략’의 구체적 실행 사례로 본다. 삼성SDS의 AI·양자컴퓨팅 역량을 반도체 제조 공정에 투입해 경쟁사와의 기술 간격을 더욱 벌리겠다는 포석이라는 분석이다. 다만 양자컴퓨팅 기술 자체가 아직 상용화 단계에 이르지 못한 만큼, 현 단계에서는 핵심 원천 기술과 지식재산권(IP)을 선제적으로 확보하는 데 무게를 두고 있다는 것이 전문가들의 중론이다.

엔비디아 협력과 자체 기술 ‘투트랙’…업계 반응은?

흥미로운 점은 삼성이 자체 알고리즘 개발과 외부 솔루션 활용을 병행하는 ‘투트랙’ 전략을 취하고 있다는 사실이다. 엔비디아는 최근 한국 내에서 반도체 공정 시뮬레이션 솔루션 영업을 전담할 인력을 채용하고 있으며, 이들은 국내 반도체 기업과 협력해 제조 공정의 병목 지점을 진단하고 GPU 기반 소프트웨어 툴을 제안하는 역할을 맡는다. 삼성 역시 엔비디아 등 외부 솔루션을 활용하면서도 동시에 자체 OPC 알고리즘의 독자성을 강화하는 방안을 함께 추진하고 있다.

김형종 서울여대 지능정보보호학부 교수(한국시뮬레이션학회 부회장)는 “반도체 선폭이 극한에 도달하며 노광 공정의 불확실성이 커지는 상황에서, AI와 양자컴퓨팅을 결합한 시뮬레이션 기술을 선제적으로 확보하려는 시도”라고 평가했다. 이어 “양자컴퓨팅 상용화까지는 시간이 걸리므로, 당장의 성과보다는 핵심 원천 기술과 IP 선점에 더 큰 의미가 있다”고 덧붙였다. 삼성의 이번 도전이 단순한 기술 개발을 넘어 미래 반도체 패권을 위한 전초전이라는 해석이 설득력을 얻고 있다.

전문가 진단과 남은 과제

삼성의 이 같은 행보는 반도체 초미세 공정에서 물리적 한계를 소프트웨어와 차세대 연산 기술로 극복하겠다는 의지로 읽힌다. 하지만 양자컴퓨터의 안정적인 큐비트 확보, 오류율 저감, 상용 시스템 구축까지는 여전히 넘어야 할 산이 많다. 또 기존 EDA(전자설계자동화) 툴을 완전히 대체하기는 어렵다는 현실적인 목소리도 나온다. 삼성이 그룹의 모든 역량을 결집해 이 난제를 얼마나 빠르게 실증 단계로 끌어올릴 수 있을지가 향후 4년간 반도체 업계의 최대 관전 포인트가 될 전망이다.

업계 관계자는 “삼성이 기존에 사용하던 외부 EDA 툴을 완전히 대체하는 것은 어렵겠지만, 시뮬레이션 알고리즘 같은 원천 기술을 자체 확보하는 것은 더 이상 선택이 아닌 필수가 된 상황”이라고 전했다. 남은 과제는 이 기술을 실제 양산 라인에 적용할 수 있는 수준으로 끌어올리는 일이다.

#삼성전자 #옹스트롬 #양자컴퓨팅 #반도체미세공정 #초격차