การออกแบบอุปกรณ์ Internet of Things (IoT) ที่ใช้เซ็นเซอร์อย่างง่ายนั้นไม่ใช่เรื่องยาก แต่การสร้างอุปกรณ์ IoT ที่มีความสามารถในการประมวลผล Edge Machine Learning (ML) ถือเป็นเรื่องที่แตกต่างไปจากเดิมอย่างสิ้นเชิง ซีรีส์โปรเซสเซอร์เฉพาะ บอร์ดพัฒนา และซอฟต์แวร์ที่มาพร้อมกันซึ่งเปิดตัวโดย NXP Semiconductors มีเป้าหมายเพื่อแก้ปัญหาความท้าทายที่สำคัญในด้านฟังก์ชันการทำงาน ประสิทธิภาพ และการพัฒนา ช่วยให้ปรับใช้ฟังก์ชันปัญญาประดิษฐ์ (AI) ที่ซับซ้อนได้รวดเร็วยิ่งขึ้นในแอปพลิเคชันอุตสาหกรรมและ IoT
นักออกแบบได้เริ่มใช้โซลูชัน Edge AI ที่สามารถทำการอนุมาน ML บนอุปกรณ์ที่ใช้พลังงานต่ำโดยไม่ต้องพึ่งพาทรัพยากรบนคลาวด์ โดยทั่วไปฟังก์ชันต่างๆ เช่น การตรวจจับคำปลุก การวิเคราะห์รูปแบบข้อมูลเซ็นเซอร์ และการตรวจจับวัตถุพื้นฐานสามารถจัดการได้โดยโปรเซสเซอร์ประหยัดพลังงานที่ใช้โมเดล ML (สร้างขึ้นโดยใช้เครื่องมือและเฟรมเวิร์กการปรับโมเดลให้เหมาะสม) อย่างไรก็ตาม ปัญหาคอขวดเกิดขึ้นเมื่อคุณพยายามขยายทรัพยากรตัวประมวลผลเพื่อจัดการกับปัญหาที่ซับซ้อนมากขึ้น โดยเฉพาะอย่างยิ่งปัญหาที่ต้องการการตอบสนองแบบเรียลไทม์หรือใกล้เคียงเรียลไทม์
วิธีที่โปรเซสเซอร์แบบมัลติคอร์เร่งการอนุมาน ML อย่างมีนัยสำคัญ
NXP Semiconductors พร้อมด้วยแอปพลิเคชันโปรเซสเซอร์ซีรีส์ i.MX 93 สามารถจัดการกับความท้าทายด้านการทำงานและประสิทธิภาพของการออกแบบ AI Edge แบบเรียลไทม์ที่เกิดขึ้นใหม่เหล่านี้ได้อย่างง่ายดาย (รูปที่ 1)
รูปที่ 1: แอปพลิเคชันโปรเซสเซอร์ i.MX 93 ผสานรวมทรัพยากรการประมวลผล ระบบรักษาความปลอดภัย หน่วยความจำ และนาฬิกา ตัวจับเวลา ตัวเลือกการเชื่อมต่อ และอินเทอร์เฟซต่างๆ มากมาย วางรากฐานสำหรับการออกแบบ Edge AI (แหล่งรูปภาพ: NXP Semiconductors)
โปรเซสเซอร์ซีรีส์นี้รวมคุณสมบัติที่หลากหลาย รวมถึงมัลติมีเดีย อุปกรณ์จัดเก็บข้อมูล อินเทอร์เฟซ และตัวเลือกการเชื่อมต่อ และรวมทรัพยากรการประมวลผลที่สะดุดตา:
แกนประมวลผลแอปพลิเคชัน Arm Cortex-A55 ประสิทธิภาพสูงสูงสุดสองตัวสำหรับงานประมวลผลแอปพลิเคชันบน Linux
แพลตฟอร์ม Arm Cortex-M33 ที่ใช้พลังงานต่ำเป็นพิเศษสำหรับการประมวลผลการควบคุมแบบเรียลไทม์ที่มีความหน่วงต่ำ
หน่วยประมวลผลประสาท (NPU) microNPU ของ Arm Ethos-U65 สำหรับการดำเนินการอนุมาน ML อย่างมีประสิทธิภาพ
EdgeLock Secure Enclave (ESE) ที่ผสานรวมของ NXP มอบความไว้วางใจสำหรับการบูตอย่างปลอดภัยและการจัดการคีย์ การเข้ารหัสแบบเรียลไทม์ และคุณสมบัติอื่น ๆ ที่จำเป็นในการปกป้องแอปพลิเคชัน Edge
ด้วยการใช้ประโยชน์จากความสามารถของโปรเซสเซอร์เหล่านี้ แอปพลิเคชัน AI ขนาดใหญ่สามารถแบ่งออกเป็นส่วนต่างๆ ที่สามารถจัดการได้อย่างง่ายดาย: NPU จะเข้ามาแทนที่งานคำนวณของอัลกอริธึมโครงข่ายประสาทเทียมที่หนาแน่น ลดภาระบนคอร์ Cortex-A55 และหลีกเลี่ยงการจองทรัพยากรโค้ดของแอปพลิเคชันที่ทำงานอยู่ ในเวลาเดียวกัน แกน Cortex-M33 ยังคงมุ่งเน้นไปที่การประมวลผลงานที่มีความหน่วงต่ำ เช่น การเก็บข้อมูลเซ็นเซอร์หรือการควบคุมกระบวนการ ในขณะที่ ESE ที่ฝังไว้จะรักษาความปลอดภัยของระบบ รหัสซอฟต์แวร์ และข้อมูลสำคัญตลอดทั้งกระบวนการ เนื้อหาต่อไปนี้จะแนะนำความสามารถของ NPU ในการถ่ายโอนการอนุมานของแมชชีนเลิร์นนิ่งจากคอร์ Cortex-A55 ซึ่งเป็นส่วนสนับสนุนหลักในการบรรลุแอปพลิเคชัน AI Edge ที่ตอบสนองเกือบจะแบบเรียลไทม์
บอร์ดพัฒนาฮาร์ดแวร์และซอฟต์แวร์เร่งการพัฒนาแอปพลิเคชันอย่างไร
แม้ว่าฟังก์ชันการทำงานและประสิทธิภาพของโปรเซสเซอร์จะมีความสำคัญ แต่การพัฒนาแอปพลิเคชัน Edge AI อย่างมีประสิทธิภาพนั้นอาศัยความสามารถในการเข้าใจคุณลักษณะของโปรเซสเซอร์อย่างรวดเร็วและสร้างซอฟต์แวร์ที่มีประสิทธิภาพได้อย่างรวดเร็ว บอร์ดพัฒนา FRDM-IMX93 จาก NXP (รูปที่ 2) เมื่อรวมกับทรัพยากรการพัฒนาซอฟต์แวร์ที่มาพร้อมกัน สามารถมอบทุกสิ่งที่จำเป็นในการเริ่มสร้างแอปพลิเคชัน