近年来人工智能（AI）发展进入高速成长期，衍生之技术也陆续落实到大众生活的产业应用。从产业发展来看，AI已对现有的硬件、软件、算法、系统、商业模式等带来快速革新，影响遍及个人、社会、产业、政府，并成为产业或国家竞争力的指标之一。

以往AI运算多是在云端上进行，国际大厂在云端的软硬件系统在开发上皆大幅领先.然而，在低延迟应用需求扩增、云端传输成本过高及使用者隐私考虑等因素下，AI推论运算的需求已由云端逐渐转移至边缘端、装置端上。

从个人计算机、智慧手机，现在将迈向物联网 （IoT）与AI科技时代，智慧物联网（AIoT）相关应用大量兴起，掀起新一波典范转移，其中的AI芯片是关键核心，扮演重要技术角色。这些产品需要大量AI运算力，且产品少量多样，更需要搜集各式各样应用情境的大量使用数据，以便在芯片设计上能够优化，使芯片设计也更具挑战性。

目前在AI装置端的应用产品主要可分为八大应用，包括：智慧驾驶车、消费性与企业用机器人、无人机、头戴显示设备（HMDs）、智慧音箱、智能型手机、计算机／平板、智能监控摄影机，这些应用产品皆对消费者带来大量新奇且便利的使用者体验。

举例来说，安全监控摄影机是这几年很多新创公司发表的AI产品。由于实际环境当中所发生的突发状况，常会超出数据库和算法所能处理的范围，虽然可用扩充数据库来解决，但仍无法面面俱到且缺乏实时性。AI的发展使机器可以根据所见所闻进行自动辨识，甚至是自我学习。应用于安全监控，可以解决影像辨识上无法应变突发状况的难题，运用AI于装置端运算，降低误判率并且拉近甚至超过人眼所能辨识的能力。

不同于过去个人计算机或智能手机时代有很明确的产品模式，例如计算机的Wintel架构、手机Android或iOS系统等；现今AI装置端产品强调少量多样且应用分散，对芯片的要求也大不相同，如AI智能影像辨识技术可应用在AR眼镜、街景拍摄、交通流量监控、居家安控摄影机、制造或居家机器人等不同产品上，有些产品存在省电需求、AR眼镜需要小尺寸封装、居家消费应用则有价格考虑、机器人则需具备高效能运算、出货数量也不尽相同等，不同应用对AI芯片的规格需求都不同。

AI on Chip下一代芯片大致可区分为四大特性，第一、需要提升AI运算力与应用弹性；第二、设计与制造上可解决AIoT产品少量多样的特性，第三、传统芯片设计架构对AI运算不是最佳，需要新的AI芯片架构导入装置端，第四、AI芯片已不单看硬件特性，需要透过软硬整合，达到用户最佳体验效果。