鶴山의 草幕舍廊房

科學. 硏究分野

"세계 반도체 업계 골칫거리 해결했다" 한국 스타트업의 혁신 기술

鶴山 徐 仁 2025. 4. 26. 11:13

조선경제 스타트업 취중잡담

"세계 반도체 업계 골칫거리 해결했다" 한국 스타트업의 혁신 기술

[스타트업 취중잡담] AI 기반 HBM 불량검출 솔루션 개발기

진은혜 더비비드 기자

박유연 기자

입력 2025.04.25. 13:50업데이트 2025.04.25. 14:02


디에스의 한기준 대표. /더비비드

반도체 패키징(후공정) 공장에는 ‘비밀의 방’이 있다. 이상이 감지된 칩을 비밀의 방으로 가지고 가 현미경과 각종 장비로 칩의 결함 여부와 원인을 분석하는 것이다.

디에스의 한기준(38) 대표는 인공지능(AI)으로 자동화된 비밀의 방을 구상했다. AI 기반 반도체 불량검출 솔루션 딥시어스(DEEPSEERS)를 개발한 계기다. 그를 만나 반도체 패키징 공정 현장에 AI가 필요한 진짜 이유를 들었다.

◇ 반도체 패키징 장비에 AI를 도입한다면

디에스의 구성원들. /디에스

한 대표는 학부에서 IT공학을 공부한 후 카이스트(KAIST) 지식서비스공학과에서 석사와 박사 학위를 받았다. 이후 책임 연구원으로 삼성전자에 입사해 가전에 AI를 접목하는 연구를 수행했다. 2021년 한국전자통신연구원(ETRI)으로 자리를 옮겨 드론, 로봇을 활용한 배송 관련 연구를 했다. 2022년 한성대 컴퓨터공학과 교수로 부임했다.

현실과 맞닿은 주제에 관심이 많은 연구자였다. “좋은 기업과 연구소에서 다양한 연구를 접했는데요. 훌륭한 연구 결과들이 비즈니스에 활용되지 못하고, 연구 결과로만 사장되는 경우가 많았습니다. 안타까웠어요. 저와 대학원생들이 열과 성을 다하고 있는 연구를 사회 전반에 파급력을 주는 요소로 바꾸려면 창업 밖에 길이 없다고 생각했어요. 우리가 수행하고 있는 연구가 가치 있고, 중요하다는 점을 대학원생들에게 알려 동기부여도 하고 싶었습니다.”

연구 경험과 산업 현장의 수요를 엮어서 아이템을 발굴했다. “저의 연구 내용을 요약하면 거대언어모델(LLM)과 자율주행 모빌리티로 압축됩니다. 저는 인공지능과 로보틱스는 융합할 수밖에 없다고 판단했습니다. 실제로 사람의 말을 듣고 동작하는 휴머노이드가 등장한 바 있죠. 둘의 결합은 피할 수 없는 흐름이라고 상정하고, 로보틱스를 적용할만한 분야에서 수요가 있고 수익이 발생하는 섹터를 찾아 나섰습니다. 제조업이었어요. 그 중에서도 최고봉은 단연 반도체였죠.”

산학과제를 통해 반도체 패키징 장비에 적용하는 머신비전 솔루션 개발에 착수했다. 여기서 더 나아가 해당 솔루션에 LLM을 접목해, 반도체 패키지 공정 자동화에 도전장을 내밀기로 했다. “고대역폭메모리(HBM)를 제작할 때 기존 패키징과 달리 공정의 수준이 높은 어드밴스드 패키징이 요구됩니다. 그만큼 불량 검사 복잡도도 증가해 운영 난이도가 높아진 상태인데요. 머신비전 기술을 접목하면 시중에 존재하는 다양한 장비의 검사 데이터를 통합해서 관리할 수 있습니다.”

◇ 불량 검출 공정의 정확도와 속도, 모두 잡은 비결

반도체 패키징 공정과 머신비전 솔루션에 대해서 설명하는 한 대표. /더비비드

2023년 5월, 교원창업으로 디에스를 설립하고, 어드밴스드 패키징 불량 검출에 특화된 머신비전 솔루션 딥시어스를 개발해 현장에 도입했다. 해당 솔루션에 AI를 접목하는 개발도 함께 진행 중이다. 현실화되면 반도체 패키징 장비를 음성으로 조작하면서, 불량품을 검출할 수 있게 되는 것이다.

반도체 생태계의 특성을 최우선으로 고려했다. “이 시장에서 가장 중요한 지표는 수율입니다. 수율은 생산품 중 불량 없이 정상 작동하는 제품의 비율을 뜻하는데요. 반도체 시장은 수율을 1%만 올려도 비즈니스 가치가 수천억원 뛰는 곳입니다. 수율을 좌우하는 건 반도체 오퍼레이터의 숙련도입니다. 같은 장비와 재료를 써도 오퍼레이터의 실력에 따라 수율이 달라져요. 생산 환경과 최적의 파라미터를 잘 알아야 수율을 최대치로 끌어올릴 수 있죠.”

(왼쪽부터) 딥시어스 솔루션을 탑재한 장비, 사용자 관점에서의 인터페이스. /디에스

오퍼레이터의 역할을 자동화하면 인적 개입으로 인한 비효율을 최소화할 수 있다고 판단했다. “현장과 장비에 대한 이해가 부족한 신규 오퍼레이터의 존재는 수율 관리 측면에서 좋지 않아요. 만약 패키징 장비에 AI를 적용하면 숙련도가 부족한 오퍼레이터가 투입돼도 AI가 패키지에 맞는 파라미터를 추천 및 설정해줍니다. 또한, 이전 공정에서 검사한 자재를 다시 검사할 필요가 없어서 수율 관리 측면에서 안정적이죠. 반도체 패키징 장비에 AI를 도입하는 건 그저 있어 보이는 솔루션에 그치지 않아요. 실질적인 이익이 됩니다.”

딥시어스의 머신비전 솔루션은 고도의 불량 검출 기술을 요구하는 HBM 시장의 수요에 정확히 부응한다. “AI에 2D와 3D 검사, 그리고 하드웨어와 소프트웨어까지 갖춘 솔루션은 딥시어스가 유일합니다. 일반적인 머신비전 기반 불량 검출 기술은 이미 촬영된 이미지를 딥러닝해서 불량을 검출하는데, 이 방법으로는 주요 현장에서 필요로 하는 이종접합이나 다면검사 같은 수요를 완전히 충족할 수 없어요. 또한 정확도는 높아도, 속도가 더디죠. 딥시어스는 2D를 통한 이미지 검사와 웨이퍼의 휨, 간격 등을 측정하기 위한 3D 검사 모두 수행하기 때문에 정확도와 속도 두 마리 토끼를 잡을 수 있습니다. 이 점을 염두에 두고 고속으로 검사하는 알고리즘을 구현하는데 집중했습니다.”

신격호 롯데 청년기업가대상 현장에서 발표 중인 한 대표. /디에스

딥시어스의 AI 모델은 특정 현장에서만 통용되는 규칙도 만들어준다. “반도체 불량 검사를 할 때 양품과 불량을 판정하는 기준을 룰(rule)이라고 하는데요. 딥러닝으로 불량을 판정할 경우 룰이 기계적으로 적용됩니다. 납품 가능한 수준의 제품도 납품이 불가능하다고 판정하는 경우도 있어요. 1차 벤더사 입장에선 손해죠. 딥시어스는 AI모델이 현장 맞춤형 룰을 자동으로 만들어줍니다. 이 기술로 특허도 보유하고 있어요. 현장 맞춤형 룰을 적용하면 방침을 탄력적으로 운용해 예상되는 손실을 방어하면서 생산성을 끌어올릴 수 있습니다.”

현재 중국 및 한국의 다양한 반도체 패키징 업체에 솔루션을 납품하고 있다. 연매출이 수조원에 달하는 클라이언트도 확보했다. “저희의 머신비전 불량 검출 솔루션을 도입할 경우 타사 대비 정확도는 약 20%, 티칭 속도는 약 30% 향상된 것을 확인했습니다. 여기에 검사 정보를 시각화해서 보여주니 쉽고 빠르게 상황을 판단할 수 있습니다. 반도체 시장은 시간이 돈입니다. 공정 과정에서의 편의성 증대는 수율 향상이라는 실질적 결과로 귀결되죠. 딥시어스를 사용하면 시간당 10% 이상 추가 생산이 가능합니다.”

◇ 진짜 필요로 하는 기술을 개발해서 자부심을 느낍니다

디에스는 다양한 정부 지원 사업을 유치하고, 창업경진대회를 휩쓸었다. /디에스

우리나라 경제의 핵심인 반도체 시장의 고충을 정면 겨냥해, 유의미한 성과를 거둔 노고는 값진 결실로 돌아왔다. 중소벤처기업부 주관 기술창업 지원 프로그램인 팁스(TIPS)와 창업진흥원이 주관하는 ‘2025 초격차 스타트업 1000+ 프로젝트’에 모두 선정돼 국가 주요 전략 과제를 수행하는 중이다. 은행권청년창업재단(디캠프)의 스타트업 육성 프로그램 디캠프 배치 2기에도 최종 선정됐다.

굵직한 창업경진대회도 말 그대로 휩쓸었다. 1500곳 넘는 스타트업이 경쟁을 치른 2024 중국 해외인재혁신창업경진대회와 2024 과학기술 창업경진대회에서 수상했고 제1회 신격호 롯데 청년기업가대상에서 대상을 받았다. 재무적 기반도 탄탄하게 다지는 중이다. 2024년 5억6000만원의 매출이 발생했는데, 영업이익을 흑자로 달성했다. 올해 4월 기준 매출은 작년 한 해 매출을 이미 넘어섰다.

한 대표는 현장과 부대끼며 솔루션을 고도화한 덕에 높은 기술 장벽을 형성할 수 있었다고 설명했다. /더비비드

포트폴리오를 확대하면서 실력을 쌓으면서 종합 반도체 장비사로 도약하는 게 목표다. “연산 능력이 뛰어난 AI에 대한 수요가 높아지는 만큼, 고성능 반도체와 패키징 기술에 대한 수요도 증대될 수밖에 없는 상황입니다. 현재 HBM 시장은 16단을 쌓는 TC본딩에서 20단 이상을 적층하는 하이브리드 본딩으로 이행하는 추세입니다. 불량 검출의 유형이 다양화되고 난이도가 오르는 만큼 정교한 불량 검사 시스템이 필요합니다. 저희는 양산 가능한 수준의 비전 기술과 AI로 인한 효율성, 현장의 지식까지 보유한 몇 없는 기업입니다. 당장은 작지만 생존력이 뛰어난 스타트업으로 자리매김하는 게 목표인데요. 내실을 탄탄하게 다져서 플랫폼 기반의 스마트팩토리 솔루션을 주도하는 기업으로 성장하고자 합니다.”

AI 전문가의 반도체 시장 도전은 쉬운 과제가 아니었다. 그만큼 보람이 큰 여정이었다. “협업 과정이 쉽지 않았습니다. 솔루션을 장비에 탑재하는 과정에서 클라이언트가 원하는 방향으로 설계를 변경하고, 현장에서 필요로 하는 성능을 솔루션에 넣는 작업을 반복해야 했죠. 현장과 소통하며 고생한 덕분에 타사가 섣불리 진입할 수 없는 기술적 장벽을 형성하는데 성공했다고 봅니다. 그동안 좋은 연구 논문을 많이 썼지만, 현장에서 진짜 필요로 하는 내용인지 자신할 수 없었어요. 지금 개발하는 기술은 현장이 필요로 한다는 점을 확신합니다. 우리나라 반도체 경쟁력 발전에 기여하고 있다는데 큰 자부심을 느낍니다.”


관련 기사

서울대 전기공학과 82학번, 지독한 봄 알레르기로 고생하다 개발한 것

나만의 아이디어로 창업을 꿈꾸는 여러분에게 견본이 될 ‘창업 노트 훔쳐보기’를 연재합니다. 본 기사는 광고성 내용을 담고 있습니다. 우리나라 성...


탈모샴푸로 대박 낸 카이스트 교수 "겨우 샴푸라뇨. 과학입니다"

기업가 정신으로 무장한 사람들이 창업에 뛰어들며 한국 경제에 새 바람을 일으키고 있습니다. 그들의 이야기를 소개합니다. 본 콘텐츠는 광고성 내용...


29만원 드라이버로 시장 파란 한국 기업 "시니어에겐 우리가 타이틀리스트"

나만의 아이디어로 창업을 꿈꾸는 여러분에게 견본이 될 ‘창업 노트 훔쳐보기’를 연재합니다. 본 기사는 광고성 내용을 담고 있습니다. “자고 일어...