中国台湾AI关键组件的发展现况与布局

就人工智能（AI）装置的硬件来看，关键的零组件共有四大块，分别是逻辑运算、内存、PCB板、以及散热组件。他们扮演着建构稳定运算处理的要角，更是使用者体验能否优化的重要辅助。而随着AI大势的来临，中国台湾业者也已做好准备，准备在这些领域上大展拳脚。

逻辑组件扮枢纽 中国台湾IC设计有商机
对整个AI运算来说，最关键就属于核心处理组件的部分。尽管中国台湾没有强大的CPU与GPU技术供货商，但在AI ASIC芯片设计服务与IP供应方面，则是拥有不少的业者，而且其中不乏领头羊的先进业者。
在AI ASIC芯片设计方面，中国台湾主要提供客制化的AI芯片设计服务（NRE）、硅智财（IP）、SoC设计，以及相关系统整合与生产等服务。主要的业者包含晶心科技、世芯-KY、智原科技、创意电子、联咏科技与凌阳科技等。

以世芯-KY为例，由于庞大的AI市场需求，该公司的先进AI ASIC设计业务已有十分耀眼的成长，尤其是在云端服务器的应用上。世芯总经理沈翔霖在今年第一季的法说会就指出，世芯-KY业绩将会有很强势的成长，且将续创新高。
目前世芯-KY最主要的客户就是云端服务大厂AWS，该公司的云端服务器的处理芯片多数交由世芯-KY来设计，并由台积电进行生产制造，芯片的节点制程也高达5/3奈米。
至于IC设计服务商智原科技与创意电子，也正积极发展AI芯片的设计，以响应市场与客户的需求。在智原方面，近期已加入Arm Total Design的设计服务合作伙伴，来提供创新的先进云端、HPC和AI芯片。日前更宣布，携手ARM与英特尔，共同开发基于英特尔18A制程的64核SoC，布局大规模数据中心、边缘基础架构和先进5G网络应用。
至于创意电子，近期则是在高速传输技术颇有斩获。该公司日前宣布，已顺利设计定案 8.6Gbps HBM3 控制器、物理层与GLink 2.3LL的测试芯片，将可运用在AI、HPC/xPU及网络应用。此测试芯片同样采用台积电 3 奈米制程，并以台积电 CoWoS技术封装。
晶心科技则是中国台湾的RISC-V核心供货商，过往已经智能物联装置上有十分卓越的表现，近几年也切入AI云端服务器的市场，并获得Meta（Facebook母公司）的青睐，将其核心运用在自行开发AI芯片中，用来加速模型训练与推论。
值得注意的是，中国台湾的IC设计服务业者除了本身的技术十分杰出外，更与中国台湾的半导体制造业与封装业者紧密合作，包含台积电、联电、力积与日月光等，能够提供从设计到量产的一条龙服务，这也是目前全球鲜见的半导体生态系统。

总结来说，中国台湾的IC设计服务与IP产业在AI应用上的发展正如火如荼的进行，主要有以下四点：
1.AI芯片设计服务：
‧ 中国台湾IC设计服务公司积极投入AI芯片设计，提供从架构设计、算法开发到芯片验证的完整服务。
‧ 与国际大厂合作，参与AI芯片开发，提升技术能力并拓展市场。
2.AI加速器IP开发：
‧ 开发各种AI加速器IP，如神经网络加速器、计算机视觉加速器等，提供给IC设计公司使用。
‧ 这些AI加速器IP可以大幅提升AI运算效能，缩短产品开发时程。

3.AI应用领域拓展：
‧ 积极拓展AI应用领域，如智能医疗、智能制造、智能城市等。
‧ 透过提供客制化的AI芯片与IP解决方案，协助客户实现各种AI应用。
4.AI生态系建立：
‧ 中国台湾IC设计服务与IP产业积极参与AI生态系建立，与上下游厂商合作，共同推动AI产业发展。
‧ 中国台湾在半导体产业链上的完整性，有助于建立完整的AI生态系。

 
图一 : AWS的AI芯片就由中国台湾业者设计制造。（source：AWS）

HPC需求节节高升PCB板与散热组件成要角
AI应用为中国台湾PCB板卡业带来了新的发展机遇，最主要就是受惠于生成式AI的运算需求，让AI服务器成为PCB板卡商的新蓝海。这类型的服务器是属于高阶、高价值的PCB终端应用，因此制程技术门坎高，同时产品的单价也高，成为目前中国台湾PCB产业积极进军的领域。
就技术端来看，由于AI服务器皆搭载高性能的处里核心，以及针对AI运算加速的GPU与AI芯片，这篇处理芯片组都采用特殊的布线与导线架，因此对于所用的PCB规格也有不同的需求。而其中最主要的就是ABF载板及HLC需求增加。 AI服务器推升ABF载板和高多层板（HLC）的需求，成为PCB产业少数的成长亮点。


AI服务器PCB的技术发展
有别于以往的运算架构与环境，AI服务器也需有新的PCB板卡技术来支持，以下就是几个PCB板技术的发展趋势:
‧ ABF载板朝高层数、大面积发展： AI算力需求提升，推动ABF载板朝高层数与大面积发展，良率为载板厂获利关键。
‧ PCB板朝高密度、多层化发展： 服务器平台升级，PCB板朝布线更多、更密集，及更多层数发展，例如从10层以下增加到16层以上。
‧ PCB板高速传输需求提升： 平台升级带动PCB板高速传输需求，铜箔基板等级也从Mid-Loss升级至Low Loss、与Ultra Low Loss。


 
图二 : AI算力需求提升，推动ABF载板朝高层数与大面积发展。（source：Unimicron）

中国台湾AI服务器PCB板供货商概况
而中国台湾有许多PCB板卡供货商在AI领域扮演重要角色，包含欣兴电子 (Unimicron)、金像电子 ( Kinsus Interconnect)、华通计算机 ( Compeq Manufacturing)、南电 (Nan Ya PCB)、景硕科技 ( Kinsus Interconnect )、瀚宇博德与臻鼎科技等。
其中欣兴电子布局AI服务器有成，目前已是NVIDIA的主要供货商之一，并在ABF载板技术方面有领先地位；金像电子是中国台湾最大的PCB制造商之一，专注于高阶服务器PCB板，包括AI服务器用板，而在AI大势驱动之下，业绩呈现逐步成长的局面。
至于华通计算机是HDI板龙头厂商，专门提供AI服务器所需的高密度连接板；
而南电主要生产BT载板，在ABF载板技术上也有所布局，并也陆续发展AI服务器的业务；景硕同样也以BT载板为主要的产品，但近年来积极投入ABF载板开发，以响应市场对于AI服务器的需求。
同样受惠于AI服务器需求的，则是散热组件供货商。主要的原因，就是AI服务器的运算能力强大，散热需求也大幅提升，是整体效能能否稳定发挥的关键所在。由于AI服务器搭载大量高效能运算芯片，例如GPU、TPU等，且需进行复杂的AI运算。当这些芯片在高负载运算时会产生大量热能，若无法有效散热，将导致芯片过热，影响运算效能，甚至造成硬件损坏，也因此需要搭配更效能的散热模块和组件。
另一方面，过高的温度也会影响AI服务器的稳定性，导致系统当机或运算错误。因此高效能的散热组件能确保AI服务器在长时间高负载运算下保持稳定运作。再者，优异的散热组件也有助于延长硬件寿命，良好的散热系统能降低芯片的工作温度，延长硬件寿命，降低维护成本。
而在环保节能的要求之下，高效能散热组件能更有效地将热量排出，进而减少能源消耗，提升AI服务器的能源效率，符合节能减碳的趋势。


AI服务器散热技术发展趋势
也由于AI服务器对散热性能有不同以往的要求，因此也刺激了散热技术开始出现新的发展趋势，以下就是三种主要的技术进展：
‧ 从气冷走向液冷： 传统的气冷散热技术已无法满足AI服务器的高散热需求，因此液冷散热技术逐渐成为主流。液冷散热效率更高，能更有效地带走芯片产生的热量。
‧ 浸没式液冷技术： 将整个服务器浸泡在特殊的冷却液中，直接接触所有发热组件，提供更均匀、高效的散热效果。
‧ 复合式散热方案： 结合气冷、液冷、均温板等多种散热技术，针对不同发热组件提供最佳散热方案。

 
图三 : 从气冷走向液冷是AI伺服散热技术的重要趋势。图为工研院的液体伺服散热系统。（source：ITRI）

中国台湾AI散热组件概况
从PC产业起家，并一路拓展至服务器应用，目前中国台湾已拥有完整的散热产业供应链，从上游的材料、零组件到下游的模块组装，且具备一定的竞争力。尤其是在散热技术方面，中国台湾厂商拥有相当的竞争力，在长期的研发投入下，已拥有多项专利和技术优势。再者中国台湾业者的客制化能力强，能够根据客户需求，提供客制化的散热解决方案。
目前中国台湾主要散热组件供货商包含双鸿、超众、奇鋐、建准 与泰硕。总结来说，高效能散热组件是AI服务器不可或缺的一部分，能确保其稳定性、效能和寿命，同时提升能源效率。随着AI技术的发展，散热技术也将持续演进，以满足未来更高阶AI服务器的散热需求。


处理器与内存推动AI浪潮
在当今科技发展的浪潮中，人工智能（AI）已成为推动创新的关键力量。AI的应用范围广泛，从智能手机、自动驾驶汽车到数据中心，无不依赖于先进的处理芯片与内存组件。这些组件不仅是AI系统的核心，更是实现高速运算与大量数据处理的基石。
处理芯片，如CPU和GPU，是AI运算的大脑，负责执行复杂的算法和模型。随着AI模型的日益复杂，对处理芯片的性能要求也随之提高。例如，联发科技推出的AI处理芯片，以其高效能和低功耗的特性，正逐渐成为智能装置中不可或缺的部分。耐能则以其创新的AI芯片KL730，提供了强大的运算能力和能效比，驱动轻量级GPT解决方案的大规模应用。而鑫创智能则以其AI芯片在能效上的突破，成功击败国际大厂，展现了中国台湾企业在AI芯片领域的竞争力。
内存组件，如DRAM和Flash内存，则负责储存和快速存取数据。在AI应用中，内存的速度和容量直接影响整体系统的效能。华邦电子和旺宏都积极开发针对AI市场的内存解决方案，以满足市场对高速和大容量内存的需求。钰创则推出了MemoriaLink高效AI内存平台，提供了一个整合硬件和软件的解决方案，以加速AI应用的开发和部署。


联发科聚焦AI体验 打造旗舰级处理平台
在AI处理器领域，联发科技与辉达合作开发了基于Arm架构的AI PC处理器，这是一个重大的突破，因为它将AI的运算能力带到了个人计算机领域。

近期联发科发表了天玑9300+旗舰处理器，这是一款专为AI训练大模型而设计的行动处理器。天玑9300+的CPU配置包括一个3.40GHz Cortex-X4超大核心、三个2.85GHz Cortex-X4大核心，以及四个2.00GHz Cortex-A720效能核心，这样的组合使其在运算过程中更加迅捷。它还内建了12核心Immortalis-G720 GPU，能够执行多款AI大模型。

联发科的这些进展不仅提升了AI处理器的性能，也为开发者和使用者提供了更佳的AI体验。例如，天玑9300+支持广泛的大型语言模型（LLM），并整合了LoRA技术，这使得生成式AI应用的开发和部署变得更加容易。

 
图四 : 联发科技天玑9300处理器

耐能科技解决边缘AI三大问题
耐能科技推出了KL730 AI芯片，这款芯片在能效方面取得了显着进步，相比以往的产品提升了3至4倍的能效。KL730提供每秒0.35至4 tera的有效计算能力，支持最先进的轻量级GPT大语言模型，如nanoGPT等。
KL730芯片的技术优势在于其高能效轻量级可重构神经网络架构，这解决了边缘AI设备所面临的三个主要问题：延迟、安全性和成本。此外，该芯片整合了车规级NPU和影像讯号处理器（ISP），使其能够在各种应用场景中，如边缘服务器、智能家居及汽车辅助驾驶系统等，提供安全且低能耗的AI能力。
耐能科技的KL730芯片还具有多信道接口，可以无缝接入图像、视频、音频和毫米波等各种数字讯号，支持多种产业的人工智能应用开发。


鑫创智能打造低能耗、高性能AI加速芯片
鑫创智慧（NEUCHIPS）最近在MLPerf v3.0 AI推论效能基准检验中，公布了其RecAccel N3000 AI加速器的测试数据，该数据在服务器领域的能源效率上超越了NVIDIA。这项成就不仅展现了鑫创智慧在技术上的突破，也展现了其对于环境友好解决方案的承诺。
鑫创智能的AI芯片在低耗能上的优势得到了国际认证，其每瓦可处理1,060次查询的能效是对手NVIDIA H100的1.7倍，这一成绩在数据中心系统领域中位居榜首。这一突破源自于公司在边缘AIoT领域的投入，该领域对省电的要求极高。
此外，鑫创智能的AI芯片采用台积电7奈米制程生产，这不仅保持了超低功耗，也大幅降低了内存需求，这些特色使其在AI时代下的计算机升级AI规格中占有一席之地。该公司的AI芯片主打推荐模型应用，可加速数据中心、社群平台的推荐模型效能，并已完成工程验证，陆续开发客户中。


锁定边缘AI应用 华邦推出创新内存方案
华邦电子在AI内存领域推出了创新的CUBE架构，这是一种专为边缘AI运算设计的内存解决方案，目的在提供超高带宽和低功耗的内存技术。
CUBE架构利用3D堆栈技术和异质键合技术（hybrid bonding），能够提供单颗256Mb至8Gb的高带宽低功耗内存。这种内存技术特别适用于那些需要高效能运算能力的AI应用，如穿戴设备、边缘服务器设备、监控设备、ADAS及协作机器人等。
CUBE的主要特点包括节省电耗、更好的性能和较小的尺寸。例如，CUBE提供的电源效率极高，功耗效能低于1pJ/bit，这有助于延长运行时间并优化能源使用。
华邦电子的这些进展不仅提升了AI内存的性能，也为开发者和使用者提供了更佳的AI体验。随着AI技术的不断进步，华邦电子无疑将继续在全球半导体市场中扮演重要角色，推动AI技术的发展和应用。此外，华邦还正在积极与合作伙伴公司合作建立3DCaaS平台，该平台将进一步发挥CUBE的能力。


着眼CIM技术 旺宏为AI打造全新内存产品
旺宏电子为AI应用量身打造了FortiXTM系列3D NAND/NOR闪存，这些内存不仅提供高储存容量和稳定质量，还兼具储存及运算功能，支持实时数据处理、高传输带宽与低功耗。
FortiXTM系列产品具备内存内搜寻（In-Memory Search；IMS）与内存内运算（Computing-In-Memory；CIM）功能，这些功能是兼有数字与模拟架构的运算功能，能够大量减少内存与CPU/GPU之间的数据传输，进而提升速度、降低功耗，并降低整体系统成本。
FortiXTM的IMS功能可以直接从内存的既存数据中进行数据搜寻与比对，支持平行输入，而CIM功能则可在深度神经网络（DNN）推论任务中，执行所需的MAC运算。这些功能使得FortiXTM系列产品在AI应用中，特别是需要快速数据处理和高速传输的场景中，具有显着优势。
此外，旺宏电子与IBM合作，将其相变化内存（PCM）产品应用在IBM的新模拟AI芯片上。


钰创整合子公司技术 打造AI次系统
钰创科技致力于AI技术的研发，特别是在机器视觉感测、边缘运算以及隐私保护等方面的应用。钰创科技开发「AI+」次系统方案，这些方案包括室外机器人在农业的创新应用、服务型机器人的领先技术、内视镜市场的AI+创新以及新兴视频会议方案的推进。
钰创科技的子公司eYs3D透过边缘运算引擎eCV系统芯片，提供了创新的「AI+」次系统方案，这些方案已经在多个领域实现了AI的创新。
在产品进展方面，钰创科技推出了全新平台MemoraiLink，这是一个整合内存与内存控制器支持系统芯片AI SoC平台。MemoraiLink原本仅限集团内部使用，现在将正式对外开放，使合作伙伴在前期导入设计时，即能以高效开发创新AI终端应用。该平台提供多样化的内存选择，满足SoC设计的容量和带宽需求，并结合钰创擅长的异质整合，进一步优化SoC的整体性能和成本。

结语
从处理芯片到内存技术，再到PCB与散热组件等，中国台湾在整个AI关键组件上的术上不断推动创新，并为AI应用提供强大的支持。中国台湾半导体厂商如联发科、耐能、鑫创智能等在AI处理芯片方面的创新，以及华邦、旺宏、钰创等在内存技术上的进步，将持续推动AI技术的发展。
目前中国台湾已在全球半导体市场中占有一席之地，未来将进一步巩固其市场地位，特别是在AI和5G等高成长领域。而跨领域的合作，如与车辆制造商、医疗设备公司和农业技术企业的合作，将开启新的市场机会。展望未来，中国台湾在AI领域充满机遇，但也面临挑战。透过持续的技术创新、市场开拓、人才培养和国际合作，中国台湾有望在AI时代扮演更加重要的角色。