AI บนอุปกรณ์ (On-Device AI) คืออะไร?

AI บนอุปกรณ์ (On-Device AI) คือรูปแบบการประมวลผลที่ประมวลผลข้อมูลบนฮาร์ดแวร์ภายในเครื่องแทนที่จะเป็นระบบคลาวด์ ซึ่งช่วยให้มีเวลาแฝงต่ำและความเป็นส่วนตัวของข้อมูลสูง

ในขณะที่สถาปัตยกรรมปัญญาประดิษฐ์แบบดั้งเดิมยังต้องพึ่งพาโครงสร้างของศูนย์ข้อมูลส่วนกลางในการประมวลผลข้อมูลและการอนุมาน (inference) แต่ความก้าวหน้าด้านสถาปัตยกรรมฮาร์ดแวร์กำลังนำพลังการประมวลผลมาสู่ปลายทาง (edge) โดยตรงAI บนอุปกรณ์ (On-Device AI) คืออะไร?คำถามนี้พบคำตอบที่จุดตัดของความต้องการด้านความปลอดภัยของข้อมูล การควบคุมต้นทุนการดำเนินงาน และการประมวลผลข้อมูลแบบเรียลไทม์สำหรับองค์กรธุรกิจและผู้มีอำนาจตัดสินใจทางเทคนิค แนวทางนี้ช่วยรับประกันการปฏิบัติตามกฎระเบียบโดยป้องกันไม่ให้ข้อมูลผู้ใช้ที่มีความละเอียดอ่อนหลุดออกไปนอกขอบเขตของฮาร์ดแวร์ภายในเครื่อง พร้อมทั้งเพิ่มประสิทธิภาพกระบวนการตัดสินใจที่สำคัญด้วยเวลาแฝงที่เกือบเป็นศูนย์ ในคู่มือนี้จะกล่าวถึงข้อกำหนดด้านฮาร์ดแวร์ ประโยชน์สำหรับองค์กร ข้อจำกัดทางเทคนิค และกระบวนการผสานการทำงานเชิงปฏิบัติการของสถาปัตยกรรม On-Device AI

แนวคิดและการทำงานพื้นฐานของ AI บนอุปกรณ์ (On-Device AI)

AI บนอุปกรณ์ (On-Device AI) คือกระบวนการที่นำค่าน้ำหนักที่ผ่านการฝึกฝนแล้วของโมเดลแมชชีนเลิร์นนิงไปติดตั้งลงในฮาร์ดแวร์ปลายทางโดยตรง เช่น สมาร์ตโฟน คอมพิวเตอร์ อุปกรณ์ IoT หรือระบบขับเคลื่อนอัตโนมัติ เพื่อดำเนินการอนุมาน (inference) โดยใช้ทรัพยากรฮาร์ดแวร์เหล่านี้ ในสถาปัตยกรรมคลาวด์แบบดั้งเดิมที่ใช้โมเดลไคลเอ็นต์-เซิร์ฟเวอร์ ข้อมูลที่ผู้ใช้ป้อนจะถูกส่งไปยังเซิร์ฟเวอร์ส่วนกลางผ่านโปรโตคอลอินเทอร์เน็ต โมเดลจะทำงานบนเซิร์ฟเวอร์เหล่านั้น และผลลัพธ์ที่ได้จะถูกส่งกลับมายังไคลเอ็นต์ ในทางกลับกัน สถาปัตยกรรม On-Device AI จะถ่ายโอนข้อมูลอินพุตจากหน่วยความจำภายในเครื่อง (RAM) ไปยังหน่วยประมวลผลภายในเครื่องโดยตรง และสร้างผลลัพธ์โดยไม่ก่อให้เกิดทราฟฟิกเครือข่ายภายนอกแต่อย่างใด

หลักการทำงานนี้เกิดขึ้นได้จริงโดยเฉพาะอย่างยิ่งจากการลดขนาดและเพิ่มประสิทธิภาพของโมเดลภาษาขนาดใหญ่ (LLM), คอมพิวเตอร์วิทัศน์ (computer vision) และอัลกอริทึมการประมวลผลภาษาธรรมชาติ (NLP) เทคนิคต่างๆ เช่น การตัดแต่งค่าน้ำหนักของโมเดล (pruning), การควอนไทเซชัน (quantization - การลดความแม่นยำจาก FP32 หรือ FP16 ลงมาสู่ระดับ INT8 หรือ INT4) และการกลั่นกรองความรู้ (knowledge distillation) ช่วยให้โมเดลที่มีพารามิเตอร์ระดับหลายพันล้านสามารถบีบอัดลงในขนาดหน่วยความจำเพียงไม่กี่กิกะไบต์ได้ ส่งผลให้โมเดลสามารถทำงานได้โดยตรงบนฮาร์ดแวร์โดยไม่สิ้นเปลืองขีดความสามารถในการประมวลผลของอุปกรณ์มากจนเกินไป

ในระดับการดำเนินงาน On-Device AI จะทำงานผ่านเอนจินการอนุมาน (inference engines) เฉพาะทาง ซึ่งทำหน้าที่เป็นสะพานเชื่อมระหว่างเลเยอร์ซอฟต์แวร์ฝั่งไคลเอ็นต์และฮาร์ดแวร์ตัวเร่งความเร็ว ไลบรารีรันไทม์ (runtime) เช่น ONNX Runtime, TensorFlow Lite, Apple Core ML, Qualcomm AI Engine Direct และ ExecuTorch จะคอมไพล์โมเดลที่ได้รับการเพิ่มประสิทธิภาพแล้วและกระจายไปยังหน่วยฮาร์ดแวร์ที่เกี่ยวข้อง ด้วยวิธีนี้ ซอฟต์แวร์จึงสามารถปรับให้เหมาะสมได้โดยไม่ขึ้นกับแพลตฟอร์ม ขณะเดียวกันก็ใช้ประโยชน์สูงสุดจากข้อได้เปรียบในการประมวลผลแบบขนานที่ฮาร์ดแวร์มอบให้

On-Device AI จำเป็นต้องใช้โครงสร้างพื้นฐานฮาร์ดแวร์ใดบ้าง?

เพื่อให้โมเดล AI ภายในเครื่องทำงานได้อย่างมีประสิทธิภาพสูง จึงจำเป็นต้องมีส่วนประกอบฮาร์ดแวร์เฉพาะทางที่ใช้สถาปัตยกรรมการประมวลผลแบบเฮเทอโรจีเนียส (heterogeneous computing) ในขณะที่สถาปัตยกรรมไมโครโปรเซสเซอร์แบบดั้งเดิมได้รับการออกแบบมาสำหรับการคำนวณทั่วไป แต่อัลกอริทึมการเรียนรู้เชิงลึกต้องการการคูณเมทริกซ์และการประมวลผลเทนเซอร์อย่างเข้มข้น ซึ่งต้องใช้วงจรซิลิคอนเฉพาะทาง อุปกรณ์ปลายทางสมัยใหม่จึงได้รวม CPU, GPU และตัวเร่งความเร็วโครงข่ายประสาทเฉพาะทางเข้าไว้ด้วยกันบนชิปเดี่ยว (SoC - System on Chip) เพื่อตอบสนองความต้องการนี้

NPU (หน่วยประมวลผลโครงข่ายประสาท) และบทบาทหน้าที่

NPU (Neural Processing Unit) คือวงจรซิลิคอนเฉพาะทางที่ออกแบบมาเพื่อดำเนินการคำนวณทางคณิตศาสตร์แบบเทนเซอร์และเมทริกซ์คู่ขนานที่ใช้ในอัลกอริทึมแมชชีนเลิร์นนิง โดยใช้พลังงานต่ำที่สุด สถาปัตยกรรม NPU มีบล็อกการคูณเมทริกซ์ (MAC arrays) ที่สามารถประมวลผลได้ในระดับหลายล้านล้านคำสั่งต่อวินาที (TOPS - Tera Operations Per Second) ประสิทธิภาพของ NPU ได้กลายเป็นมาตรฐานสำคัญในคอมพิวเตอร์ AI (AI PC) และชิปมือถือรุ่นใหม่ โดยขีดความสามารถในการประมวลผลขั้นต่ำที่ 40-50 TOPS เริ่มได้รับการยอมรับให้เป็นเกณฑ์พื้นฐานในการเลือกซื้อฮาร์ดแวร์ระดับองค์กร

จุดเด่นหลักของหน่วยประมวลผล NPU คือความสามารถในการประมวลผลงานปัญญาประดิษฐ์เบื้องหลังที่ทำงานอย่างต่อเนื่อง (เช่น การตัดเสียงรบกวนแบบเรียลไทม์ การยืนยันตัวตนทางชีวมิติ การแปลภาษาแบบสด หรือการปรับฉากของกล้องให้เหมาะสม) โดยไม่สิ้นเปลืองแบตเตอรี่หลักและหน่วยความจำระบบของอุปกรณ์ NPU ซึ่งได้รับการสนับสนุนด้วยเลเยอร์แคชภายใน (SRAM) เพื่อการใช้แบนด์วิดท์หน่วยความจำอย่างมีประสิทธิภาพ จะประมวลผลข้อมูลในเรจิสเตอร์ภายในเครื่องโดยตรงโดยไม่ต้องส่งข้อมูลไปยัง DRAM ภายนอก ส่งผลให้ประสิทธิภาพการใช้พลังงานเพิ่มขึ้นสู่ระดับการประมวลผลสูงสุดต่อวัตต์

ความแตกต่างจาก CPU และ GPU แบบดั้งเดิม

หน่วยประมวลผลกลาง (CPU) แบบดั้งเดิมได้รับการปรับแต่งมาสำหรับโฟลว์การควบคุมที่ซับซ้อน การประมวลผลตามลำดับ และประสิทธิภาพการทำงานแบบคอร์เดี่ยวที่มีความหน่วงต่ำ การรันการดำเนินการทางคณิตศาสตร์พร้อมกันนับพันรายการตามที่โครงข่ายประสาทเทียมเชิงลึกต้องการบน CPU จะนำไปสู่ภาระการทำงานของคอร์ที่สูงและความร้อนสะสมที่มากเกินไป ส่วนหน่วยประมวลผลกราฟิก (GPU) นั้นมีความโดดเด่นกว่า CPU อย่างเห็นได้ชัดในการดำเนินการเมทริกซ์ด้วยขีดความสามารถในการประมวลผลแบบขนานระดับสูง อย่างไรก็ตาม ด้วยรูปแบบการใช้พลังงานที่สูง (TDP) ทำให้ GPU ไม่มีความยั่งยืนด้านพลังงานสำหรับการอนุมาน AI (AI inference) อย่างต่อเนื่องบนอุปกรณ์พกพาและอุปกรณ์ปลายทาง (Edge Devices)

NPU ได้รวมขีดความสามารถในการประมวลผลแบบขนานของ GPU เข้ากับวินัยการใช้พลังงานต่ำของ CPU โดยรองรับประเภทข้อมูลขนาดเล็กที่เน้นเทนเซอร์ (INT8, FP8, FP16) ได้โดยตรงที่ระดับฮาร์ดแวร์ ช่วยตัดไปป์ไลน์การประมวลผลกราฟิกที่ไม่จำเป็นออกไป และมอบคุณสถาปัตยกรรมที่เลเยอร์ของโครงข่ายประสาทเทียมต้องการได้อย่างตรงจุด

การเปรียบเทียบระหว่าง AI บนคลาวด์กับ On-Device AI

ในการตัดสินใจด้านสถาปัตยกรรมระดับองค์กร คำถามที่ว่าควรจัดวางเวิร์กโหลด AI ไว้ที่ใดส่งผลกระทบโดยตรงต่อประสิทธิภาพ งบประมาณ และพารามิเตอร์ความเสี่ยง แม้ว่า AI บนคลาวด์จะมีความสามารถในการรองรับโมเดลขนาดใหญ่ยักษ์ (LLM ที่มีพารามิเตอร์หลายแสนล้านตัว) และมอบพลังการคำนวณระดับสูง แต่เนื่องจากการพึ่งพาเครือข่ายและปัจจัยด้านค่าใช้จ่ายในการดำเนินงาน จึงอาจไม่ใช่วิธีแก้ปัญหาที่เหมาะสมที่สุดสำหรับทุกกรณีการใช้งาน ในทางกลับกัน On-Device AI จะช่วยลดภาระของโครงสร้างพื้นฐานส่วนกลาง โดยการกระจายความสามารถในการปรับขนาดไปยังฮาร์ดแวร์ภายในเครื่อง

การประมวลผลข้อมูลและเวลาตอบสนอง (ความหน่วง/Latency)

เมื่อมีการส่งคำขอไปยังโมเดล AI บนคลาวด์ เวลาตอบสนองรวมไม่ได้ประกอบด้วยเพียงแค่เวลาในการอนุมานของโมเดลเท่านั้น แต่ยังรวมถึงความหน่วงของเครือข่าย (การแปลงชื่อ DNS, การจับมือ TLS, เวลาส่งต่อแพ็กเก็ต), เวลาในการเข้าคิวของเซิร์ฟเวอร์ และการส่งแพ็กเก็ตตอบกลับ แม้จะอยู่บนการเชื่อมต่อ 5G หรือไฟเบอร์ออปติกที่เสถียร ความหน่วงของคลาวด์แบบต้นทางถึงปลายทางก็ยังคงอยู่ที่ 150-500 มิลลิวินาที ในขณะที่ภายใต้สภาวะเครือข่ายที่อ่อนแอ เวลานี้อาจเพิ่มขึ้นเป็นหลักวินาที

ในโมเดล On-Device AI นั้น บัสข้อมูล (Bus) จะจำกัดอยู่เพียงบัสหน่วยความจำบนเมนบอร์ดของตัวอุปกรณ์เองเท่านั้น การอนุมานโมเดลมักจะเสร็จสิ้นในเวลาที่แน่นอนและคาดการณ์ได้ เช่น 5 ถึง 30 มิลลิวินาที ในแอปพลิเคชันที่ต้องการการโต้ตอบแบบเรียลไทม์ เช่น วิทยาการหุ่นยนต์ในภาคอุตสาหกรรม, ความเป็นจริงเสริม (AR), การประมวลผลเฟรมวิดีโอ หรือการสังเคราะห์เสียงพูด ค่าความหน่วงที่ต่ำกว่าการรับรู้ของมนุษย์เหล่านี้คือปัจจัยหลักที่กำหนดประสบการณ์ของผู้ใช้และความปลอดภัยในการดำเนินงาน

ต้นทุนการดำเนินงานและการใช้แบนด์วิดท์

ระบบ AI บนคลาวด์จะเรียกเก็บเงินตามรูปแบบการจ่ายตามการใช้งานจริง (อิงตามโทเค็นหรือการเรียกใช้ API) สำหรับแอปพลิเคชันมือถือที่มีผู้ใช้งานหลายล้านคน หรือโรงงานผลิตที่รวบรวมข้อมูลจากเซนเซอร์ปลายทางหลายพันตัว ค่าใช้จ่าย API บนคลาวด์จะเพิ่มขึ้นอย่างมาก นอกจากนี้ การอัปโหลดสตรีมวิดีโอความละเอียดสูงหรือข้อมูลการวัดและส่งข้อมูลทางไกลอย่างต่อเนื่องไปยังคลาวด์ ยังก่อให้เกิดการใช้แบนด์วิดท์ระดับองค์กรอย่างมหาศาลและมีค่าใช้จ่ายในการถ่ายโอนข้อมูล (Egress Fees) ตามมา

On-Device AI จะกระจายต้นทุนการอนุมานจากเซิร์ฟเวอร์ส่วนกลางไปยังฮาร์ดแวร์ของผู้ใช้ปลายทาง หลังจากสิ้นสุดต้นทุนการพัฒนาและการปรับแต่งโมเดลในเบื้องต้นแล้ว ต้นทุนส่วนเพิ่มในการอนุมานจะเข้าใกล้ศูนย์ ด้วยการประมวลผลข้อมูลบนอุปกรณ์ ทำให้จำเป็นต้องซิงโครไนซ์เฉพาะข้อมูลที่สรุปหรือผ่านการกรองแล้วเป็นระยะเท่านั้น ซึ่งสามารถลดภาระแบนด์วิดท์บนโครงสร้างพื้นฐานเครือข่ายของบริษัทได้มากถึง 80%

ประโยชน์ของ On-Device AI ในการใช้งานระดับองค์กรและระดับบุคคล

การนำเทคโนโลยี On-Device AI มาใช้ช่วยให้องค์กรมีความยืดหยุ่นในการดำเนินงานควบคู่ไปกับการปฏิบัติตามกฎระเบียบข้อบังคับได้อย่างสมบูรณ์ ผู้มีอำนาจตัดสินใจระดับองค์กรสามารถลดการพึ่งพาผู้ให้บริการ AI ส่วนกลางแต่เพียงฝ่ายเดียว พร้อมทั้งสร้างความแตกต่างให้กับประสบการณ์ของผู้ใช้ได้โดยตรงในระดับฮาร์ดแวร์

ความเป็นส่วนตัวของข้อมูลและการปฏิบัติตามกฎหมาย KVKK/GDPR

การส่งข้อมูลไปยังบริการ AI ส่วนกลางหมายถึงซอร์สโค้ดขององค์กร งบการเงิน บันทึกข้อมูลลูกค้า หรือข้อมูลสุขภาพที่พนักงานป้อนเข้าไปจะถูกประมวลผลบนเซิร์ฟเวอร์ของบุคคลที่สาม ซึ่งสถานการณ์นี้นำมาซึ่งความเสี่ยงด้านการปฏิบัติตามกฎระเบียบอย่างมีนัยสำคัญภายใต้กรอบกฎหมายที่เข้มงวด เช่น กฎหมายคุ้มครองข้อมูลส่วนบุคคล (KVKK), กฎระเบียบให้ความคุ้มครองข้อมูลส่วนบุคคลของผู้บริโภคแห่งสหภาพยุโรป (GDPR) และ HIPAA แม้ว่าจะมีการทำสัญญาการประมวลผลข้อมูล (DPA) แล้วก็ตาม แต่การรั่วไหลผ่านอินเทอร์เฟซที่อาจเกิดขึ้นระหว่างการถ่ายโอนข้อมูลก็ยังคงเป็นภัยคุกคามที่อาจเกิดขึ้นได้

หลักการพื้นฐานของสถาปัตยกรรม On-Device AI คือ "การนำโมเดลมาหาข้อมูล แทนที่จะนำข้อมูลไปหาโมเดล" ข้อมูลอินพุตของผู้ใช้ ข้อมูลชีวมิติ (biometric) เนื้อหาข้อความ และเสียงบันทึกจะได้รับการประมวลผลในพื้นที่หน่วยความจำที่ปลอดภัยของอุปกรณ์ (Secure Enclave / TrustZone) การที่ข้อมูลดิบไม่ถูกส่งออกไปนอกฮาร์ดแวร์นั้นสอดคล้องกับหลักการลดการใช้ข้อมูล (data minimization) อย่างสมบูรณ์ และช่วยขจัดความเสี่ยงที่ข้อมูลจะรั่วไหลจำนวนมากจากเซิร์ฟเวอร์ส่วนกลางในเชิงสถาปัตยกรรมเมื่อเกิดเหตุการณ์ละเมิดฐานข้อมูล

การเข้าถึงแบบออฟไลน์ (Offline) และการประมวลผลอย่างต่อเนื่อง

ในสภาพแวดล้อมที่การเข้าถึงอินเทอร์เน็ตมีจำกัด มีค่าใช้จ่ายสูง หรือถูกสั่งห้ามโดยสิ้นเชิงด้วยเหตุผลด้านความปลอดภัย เช่น การบิน การเดินเรือ การทำเหมือง อุตสาหกรรมป้องกันประเทศ และการปฏิบัติงานในพื้นที่ห่างไกล โมเดล AI บนคลาวด์จะไม่สามารถทำงานได้ ในทำนองเดียวกัน ความแออัดของสถานีฐาน (base station) หรือความขัดข้องของโครงสร้างพื้นฐานในเขตเมืองก็อาจทำให้การเข้าถึงบริการคลาวด์หยุดชะงักได้

โมเดล AI ที่ติดตั้งอยู่ภายในเครื่องสามารถทำงานได้อย่างเต็มประสิทธิภาพโดยไม่ต้องพึ่งพาการเชื่อมต่อเครือข่ายภายนอกแต่อย่างใด การที่อุปกรณ์ในโหมดเครื่องบินสามารถเข้าใจคำสั่งเสียงได้ วิศวกรภาคสนามสามารถตรวจจับความเสียหายจากภาพถ่ายไซต์งานก่อสร้างได้ หรือบุคลากรทางการแพทย์สามารถวิเคราะห์ภาพอัลตราซาวด์ด้วยโมเดลในเครื่องในพื้นที่ที่มีไฟฟ้าจำกัดได้ ล้วนเป็นผลมาจากโครงสร้างพื้นฐาน On-Device AI

การตัดสินใจแบบเรียลไทม์ด้วยเวลาแฝงต่ำ (Low Latency)

ในระบบต่างๆ เช่น ระบบขับขี่อัตโนมัติ แขนกลหุ่นยนต์อุตสาหกรรม และเครื่องปลายทางสำหรับธุรกรรมทางการเงิน แม้เพียงเสี้ยวไมโครวินาทีก็อาจส่งผลกระทบอย่างมีนัยสำคัญ การที่ยานยนต์อัตโนมัติต้องส่งสัญญาณไปยังเซิร์ฟเวอร์คลาวด์และรอการตอบกลับในกระบวนการตรวจจับสิ่งกีดขวางด้านหน้าและตัดสินใจเบรกนั้น ถือเป็นความเสี่ยงด้านความปลอดภัยที่ไม่อาจยอมรับได้

โมเดลที่ได้รับการปรับให้เหมาะสมซึ่งทำงานบนฮาร์ดแวร์ NPU ภายในเครื่องจะประมวลผลข้อมูลจากเซ็นเซอร์ (LiDAR, เรดาร์, กล้อง) ได้ในทันที และสร้างการตัดสินใจได้ภายในไม่กี่มิลลิวินาที ความสามารถในการตอบสนองแบบกำหนดได้แน่นอน (deterministic response) นี้ทำให้ AI ภายในเครื่องกลายเป็นทางเลือกทางสถาปัตยกรรมเพียงหนึ่งเดียวที่ใช้งานได้จริงในสถานการณ์ที่เกี่ยวข้องกับชีวิตมนุษย์และความปลอดภัยในการปฏิบัติงานโดยตรง

แนวทางที่ระมัดระวัง: ขีดจำกัดและความเสี่ยงด้านความปลอดภัยของ On-Device AI

แม้ว่าเทคโนโลยี On-Device AI จะมอบข้อได้เปรียบที่สำคัญมากมาย แต่ก็มีข้อจำกัดทางเทคนิคและความเสี่ยงด้านความปลอดภัยบางประการในแง่ของขีดจำกัดทางกายภาพของทรัพยากรฮาร์ดแวร์และการจัดการอุปกรณ์ปลายทาง ผู้มีอำนาจตัดสินใจที่ต้องการผสานรวมเทคโนโลยีนี้เข้ากับกระบวนการระดับองค์กรจึงจำเป็นต้องวิเคราะห์ข้อจำกัดเหล่านี้อย่างถี่ถ้วน

ข้อจำกัดด้านพลังการประมวลผลและขนาดของโมเดล

ในขณะที่ศูนย์ข้อมูลส่วนกลางสามารถรันโมเดลที่มีขนาดหลายล้านล้านพารามิเตอร์บนคลัสเตอร์ GPU ระดับองค์กรคลาส H100 หรือ B200 จำนวนหลายพันตัวได้ แต่ความจุหน่วยความจำบนอุปกรณ์ปลายทางสำหรับผู้บริโภคหรือองค์กรทั่วไปมักถูกจำกัดอยู่ที่หน่วยความจำรวม (Unified Memory) ขนาด 8 GB ถึง 64 GB เท่านั้น และในการที่โมเดล AI จะทำงานได้นั้น น้ำหนักของโมเดล (model weights) จะต้องถูกโหลดลงในหน่วยความจำ RAM ของอุปกรณ์ทั้งหมด

ด้วยเทคนิคการเพิ่มประสิทธิภาพในปัจจุบัน โมเดลภาษาขนาดเล็ก (Small Language Models: SLM) ที่มีขนาดระหว่าง 3 พันล้าน (3B) ถึง 8 พันล้าน (8B) พารามิเตอร์ สามารถบรรจุลงในหน่วยความจำของอุปกรณ์เคลื่อนที่หรือพีซีได้ผ่านการทำควอนไทเซชันแบบ 4 บิต (4-bit quantization) อย่างไรก็ตาม โมเดลที่มีขนาด 70 พันล้านพารามิเตอร์ขึ้นไปซึ่งต้องใช้การใช้เหตุผลที่ซับซ้อน (reasoning) มักจะไม่สามารถทำงานบนฮาร์ดแวร์ภายในเครื่องได้เลย หรืออาจทำให้จำนวนโทเค็นที่สร้างขึ้นต่อวินาทีลดลงสู่ระดับที่ไม่อาจยอมรับได้ (1-2 โทเค็น/วินาที) สถานการณ์นี้จึงทำให้จำเป็นต้องปรับปรุง On-Device AI ให้เหมาะสมกับงานเฉพาะทางที่เจาะจง มากกว่าการนำไปใช้กับการวิเคราะห์ระดับองค์กรที่มีความซับซ้อนสูง

ปัญหาการใช้พลังงานและการปรับปรุงประสิทธิภาพแบตเตอรี่

แม้ว่าหน่วยประมวลผล NPU จะให้ประสิทธิภาพสูงต่อวัตต์ แต่ภาระงาน AI ที่ต่อเนื่องยาวนานและเข้มข้นจะทำให้พลังงานสำรองในอุปกรณ์ที่ใช้แบตเตอรี่หมดลงอย่างรวดเร็ว การที่โมเดลในเครื่องทำการอนุมาน (Inference) ในเบื้องหลังอย่างต่อเนื่องอาจนำไปสู่ภาวะข้อจำกัดทางความร้อน (Thermal Throttling) ซึ่งบีบให้หน่วยประมวลผลต้องลดความถี่สัญญาณนาฬิกาลงเพื่อป้องกันไม่ให้อุณหภูมิสูงเกินไป

นักพัฒนาซอฟต์แวร์จำเป็นต้องกำหนดความถี่ในการอนุมาน รอบการทำงานของโมเดล และโหมดสลีปอย่างรอบคอบ มิฉะนั้น จะส่งผลเสียต่ออุปกรณ์ของผู้ใช้ปลายทาง เช่น ความร้อนสะสมที่สูงเกินไป อายุการใช้งานของฮาร์ดแวร์ที่สั้นลง และประสิทธิภาพของแบตเตอรี่ที่ลดลงอย่างรวดเร็ว

ช่องโหว่ความปลอดภัยทางกายภาพของอุปกรณ์ปลายทาง (Endpoint)

แม้การเก็บข้อมูลไว้ภายในอุปกรณ์จะช่วยป้องกันการรั่วไหลผ่านเครือข่ายได้ แต่ก็เป็นการเปลี่ยนกระบวนทัศน์ความปลอดภัยไปสู่ความปลอดภัยของอุปกรณ์ปลายทาง (Endpoint Security) หากอุปกรณ์ตกไปอยู่ในมือของผู้ไม่หวังดี อาจเกิดความเสี่ยงที่ค่าน้ำหนักของโมเดล (Model Weights) ในหน่วยความจำฮาร์ดแวร์จะถูกขโมยด้วยวิศวกรรมย้อนกลับ (Reverse Engineering) หรือข้อมูลการอนุมานในเครื่องถูกดึงออกมาจาก Memory Dump

นอกจากนี้ การโจมตีแบบ Adversarial Attack และการแทรกคำสั่งอันตราย (Prompt Injection) ต่อโมเดลในเครื่องอาจกระทำได้โดยตรงผ่านอินเทอร์เฟซของอุปกรณ์ ไฟร์วอลล์ส่วนกลางและชั้นการกรองเนื้อหาแบบไดนามิกที่มีอยู่บนเซิร์ฟเวอร์ส่วนกลางอาจไม่สามารถนำมาใช้กับโมเดลในเครื่องได้อย่างครอบคลุมเท่ากัน ด้วยเหตุนี้ พื้นที่จัดเก็บโมเดลในเครื่องจึงจำเป็นต้องได้รับการเข้ารหัส (AES-256) และปกป้องด้วยโมดูลความปลอดภัยระดับฮาร์ดแวร์ (TPM / HSM)

กรณีการใช้งานระดับอุตสาหกรรมและในชีวิตประจำวัน (Use Cases)

โมเดล AI ในเครื่องไม่ได้เป็นเพียงแค่แนวคิดอีกต่อไป แต่กำลังกลายมาเป็นมาตรฐานในการปฏิบัติการของภาคส่วนต่างๆ และด้วยชุดพัฒนาซอฟต์แวร์ (SDK) ที่มีความสมบูรณ์ยิ่งขึ้นจากผู้ผลิตฮาร์ดแวร์ ขอบเขตการประยุกต์ใช้งานจริงจึงขยายตัวอย่างรวดเร็ว

สมาร์ตโฟนและคอมพิวเตอร์ส่วนบุคคลยุคใหม่ (AI PC)

ในกลุ่มอุปกรณ์อิเล็กทรอนิกส์สำหรับผู้บริโภค สมาร์ตโฟนและแพลตฟอร์ม AI PC ถือเป็นพื้นที่ที่พบ On-Device AI ได้บ่อยที่สุด โดยในสมาร์ตโฟน ระบบสั่งการด้วยเสียง กลไกคาดเดาคำบนคีย์บอร์ด การลบวัตถุออกจากภาพถ่าย และการแปลภาษาแบบเรียลไทม์จะประมวลผลบน NPU ภายในเครื่องโดยตรง

สำหรับคอมพิวเตอร์ส่วนบุคคลระดับองค์กร การแปลงเสียงการประชุมเป็นข้อความแบบเรียลไทม์ด้วยโมเดลในเครื่อง การสรุปผล การร่างอีเมลองค์กร และระบบ RAG (Retrieval-Augmented Generation) ที่ทำงานบนเอกสารในเครื่อง ล้วนช่วยเพิ่มผลิตภาพของพนักงานพร้อมทั้งป้องกันไม่ให้ข้อมูลรั่วไหลออกนอกบริษัท

อินเทอร์เน็ตของสรรพสิ่ง (IoT) และยานยนต์ไร้คนขับ

กล้อง IoT ที่ติดตั้งในโรงงานอัจฉริยะใช้โมเดลคอมพิวเตอร์วิทัศน์ (Computer Vision) ภายในเครื่องเพื่อตรวจจับข้อบกพร่องของผลิตภัณฑ์ในสายการผลิตได้ภายในเวลาเพียงเสี้ยววินาที เนื่องจากการรอการยืนยันจากเซิร์ฟเวอร์คลาวด์เพื่อคัดแยกชิ้นส่วนที่ชำรุดออกจากสายการผลิตจะทำให้กระบวนการประกอบล่าช้า กระบวนการคัดกรองทั้งหมดจึงเสร็จสิ้นบนไมโครคอนโทรลเลอร์ของตัวเซนเซอร์เอง

ยานยนต์ไร้คนขับและระบบช่วยเหลือผู้ขับขี่ขั้นสูง (ADAS) ใช้ประโยชน์จากชิปขับขี่อัตโนมัติในตัวรถที่มีประสิทธิภาพระดับหลายร้อย TOPS เพื่อประมวลผลข้อมูลจากเรดาร์ LiDAR และสตรีมกล้องพร้อมกัน การรักษารถให้อยู่ในเลน การตรวจจับคนเดินถนน และการตัดสินใจเบรกฉุกเฉินล้วนดำเนินการอย่างสมบูรณ์บนฮาร์ดแวร์ภายในยานพาหนะ

การประมวลผลข้อมูลสำคัญในภาคการดูแลสุขภาพและการเงิน

ในภาคการดูแลสุขภาพ ความเป็นส่วนตัวของผู้ป่วยถือเป็นข้อกำหนดทางกฎหมายในระดับสูงสุด อุปกรณ์ตรวจภาพทางการแพทย์แบบพกพา (เช่น หัวตรวจอัลตราซาวด์แบบมือถือหรือเครื่องตรวจคลื่นไฟฟ้าหัวใจ EKG) จะตรวจจับความผิดปกติด้วยโมเดล AI ภายในเครื่องเพื่อแสดงผลย้อนกลับให้แพทย์ทราบได้ทันที โดยภาพทางการแพทย์ของผู้ป่วยจะถูกจำแนกประเภทภายในเครื่องโดยไม่ต้องส่งไปยังเครือข่ายภายนอกใดๆ

เครื่องรูดบัตรทางการเงินและอุปกรณ์ชำระเงินผ่านมือถือดำเนินการตรวจจับการฉ้อโกง (Fraud Detection) และการยืนยันตัวตนด้วยข้อมูลชีวมาตร (Biometric) บนตัวเครื่อง ลายนิ้วมือหรือแผนผังใบหน้าของผู้ใช้จะไม่ถูกส่งไปยังเซิร์ฟเวอร์ส่วนกลาง แต่จะได้รับการตรวจสอบเฉพาะในหน่วยประมวลผลของเครื่องเพื่อสร้างรหัสอนุมัติการทำธุรกรรมเท่านั้น

กลยุทธ์ระดับองค์กรและแผนงานการลงทุนด้านฮาร์ดแวร์

การที่องค์กรมุ่งเน้นเฉพาะ Cloud API ในกลยุทธ์ AI อาจสร้างปัญหาคอขวดด้านต้นทุนและการปฏิบัติตามกฎระเบียบในระยะยาว สำหรับการปรับใช้ On-Device AI ให้ประสบความสำเร็จ ควรใช้แนวทางสถาปัตยกรรมแบบไฮบริด พร้อมทั้งกำหนดเกณฑ์ที่ชัดเจนว่าภาระงานใดควรประมวลผลบนฮาร์ดแวร์ในเครื่อง และภาระงานใดควรทำงานบนคลาวด์

ในเบื้องต้น องค์กรควรจำแนกประเภทข้อมูลในกระบวนการทำงานให้แล้วเสร็จ งานที่มีความลับสูงและต้องการการตอบสนองในทันที (เช่น ระบบจดบันทึกของตัวแทนฝ่ายบริการลูกค้าในเครื่อง การตรวจสอบหน้างาน การยืนยันตัวตนด้วยข้อมูลชีวมาตร) ควรมอบหมายให้โมเดลในเครื่องเป็นผู้จัดการ ในรอบการจัดหาฮาร์ดแวร์ใหม่ ควรระบุการรองรับ NPU และความจุหน่วยความจำของคอมพิวเตอร์ แท็บเล็ต และอุปกรณ์ปลายทางให้พร้อมสำหรับอนาคต (หน่วยความจำรวมอย่างน้อย 16-32 GB, NPU ระดับ 40+ TOPS)

ในส่วนของการพัฒนาและการติดตั้งใช้งานโมเดล การเลือกใช้รูปแบบเปิดที่เป็นมาตรฐาน (เช่น ONNX) จะช่วยป้องกันไม่ให้องค์กรต้องพึ่งพาระบบนิเวศของผู้ผลิตฮาร์ดแวร์รายใดรายหนึ่งเพียงรายเดียว (vendor lock-in) การแจกจ่ายโมเดลที่พัฒนาแล้วไปยังอุปกรณ์ภายในเครื่องควรดำเนินการแบบอัตโนมัติผ่านช่องทางที่มีความปลอดภัยและเข้ารหัส ผ่านระบบการจัดการอุปกรณ์เคลื่อนที่ส่วนกลาง (MDM) หรือระบบการจัดการอุปกรณ์ปลายทาง (Endpoint Management)

คำถามที่พบบ่อย

Q1: ความแตกต่างระหว่าง On-Device AI กับ Edge AI คืออะไร?
A1: Edge AI เป็นคำครอบคลุมในวงกว้างที่รวมถึงการประมวลผลข้อมูลในไมโครดาต้าเซ็นเตอร์หรือเซิร์ฟเวอร์ส่วนปลาย (edge server) ภายในเครือข่ายท้องถิ่น ส่วน On-Device AI หมายถึงจุดปลายทางขั้นสูงสุดที่กระบวนการอนุมาน (inference) เกิดขึ้นโดยตรงบนโปรเซสเซอร์ของตัวอุปกรณ์เดี่ยวที่รวบรวมข้อมูลเอง (เช่น โทรศัพท์, คอมพิวเตอร์, เซนเซอร์)

Q2: อุปกรณ์ที่มีอยู่เดิมสามารถเพิ่มคุณสมบัติ On-Device AI ผ่านการอัปเดตซอฟต์แวร์ได้หรือไม่?
A2: โมเดลแมชชีนเลิร์นนิงพื้นฐานสามารถทำงานผ่านซอฟต์แวร์บน CPU หรือ GPU ทั่วไปได้ ทว่าการรองรับ NPU ในระดับฮาร์ดแวร์ถือเป็นสิ่งจำเป็นสำหรับประสิทธิภาพสูงและการประหยัดพลังงานแบตเตอรี่ สำหรับอุปกรณ์ที่ไม่มี NPU หรือตัวเร่งความเร็วเทนเซอร์ที่เพียงพอในทางกายภาพ จะไม่สามารถรันโมเดล Generative AI ขั้นสูงได้อย่างมีประสิทธิภาพ

Q3: โมเดล AI บนอุปกรณ์สามารถถูกโจมตีทางไซเบอร์จากภายนอกได้หรือไม่?
A3: ได้ แม้จะไม่มีการเชื่อมต่อเครือข่าย แต่หากอุปกรณ์ถูกเข้าถึงทางกายภาพ พารามิเตอร์ของโมเดลก็อาจถูกคัดลอกผ่านการวิเคราะห์ดัมป์หน่วยความจำ (memory dump) หรืออาจเกิดการแทรกคำสั่งผ่านอินพุตในเครื่องได้ เพื่อป้องกันความเสี่ยงเหล่านี้ จึงควรใช้การเข้ารหัสหน่วยความจำระดับฮาร์ดแวร์และสภาพแวดล้อมการประมวลผลที่ปลอดภัย (TEE)

Q4: การรัน On-Device AI ทำให้แบตเตอรี่ของอุปกรณ์หมดเร็วมากหรือไม่?
A4: หน่วยประมวลผล NPU เฉพาะทางให้ประสิทธิภาพการประมวลผลต่อวัตต์สูง จึงใช้พลังงานน้อยกว่าการประมวลผลอนุมานบน GPU แบบเดิมอย่างเห็นได้ชัด อย่างไรก็ตาม เนื่องจากการทำงานเบื้องหลังอย่างต่อเนื่องและไม่ได้รับการควบคุมอาจส่งผลต่ออายุการใช้งานแบตเตอรี่ กระบวนการอนุมานจึงจำเป็นต้องได้รับการปรับแต่งให้เหมาะสมด้วยรอบการทำงานตามภารกิจที่กำหนด

Q5: โมเดลภาษาขนาดเล็ก (SLM) ให้ผลลัพธ์ที่ดีหรือไม่เมื่อรันบนอุปกรณ์?
A5: โมเดล SLM ขนาด 3B-8B พารามิเตอร์ที่ได้รับการปรับแต่งให้เหมาะกับงานระดับองค์กรที่เฉพาะเจาะจงและจำกัดขอบเขต (เช่น การสรุปข้อความ, การจำแนกประเภทข้อมูล, การตรวจแก้ไวยากรณ์, การเติมเต็มโค้ด) สามารถมอบคุณภาพความแม่นยำสูงและความเร็วที่น่าพึงพอใจบนอุปกรณ์ด้วยการลดทอนความแม่นยำระดับ INT4/INT8

Q6: เหตุใดบริษัทต่างๆ จึงควรเลือก On-Device AI แทนที่จะพึ่งพาเพียงโมเดลบนคลาวด์?
A6: โมเดลภายในเครื่องช่วยลดต้นทุนการเรียกใช้ Cloud API ป้องกันไม่ให้การดำเนินงานหยุดชะงักเมื่ออินเทอร์เน็ตขัดข้อง และที่สำคัญที่สุดคือป้องกันไม่ให้ข้อมูลลูกค้าหรือข้อมูลของบริษัทถูกส่งไปยังเซิร์ฟเวอร์ภายนอก ซึ่งช่วยรับประกันการปฏิบัติตามกฎหมายคุ้มครองข้อมูลส่วนบุคคล (KVKK/GDPR)

Q7: โมเดล On-Device AI สามารถเรียนรู้หรือฝึกฝนตนเองบนอุปกรณ์เมื่อเวลาผ่านไปได้หรือไม่?
A7: แอปพลิเคชัน On-Device AI ในปัจจุบันทำงานเพื่อการอนุมาน (inference) เป็นหลัก การฝึกโมเดล (fine-tuning) โดยตรงบนอุปกรณ์ยังมีข้อจำกัดเนื่องจากต้องใช้พลังการประมวลผลและหน่วยความจำสูง อย่างไรก็ตาม ด้วยแนวทางอย่าง Federated Learning (การเรียนรู้แบบรวมศูนย์กระจาย) การอัปเดตค่าน้ำหนักจึงสามารถส่งไปยังโมเดลส่วนกลางได้โดยที่ข้อมูลของผู้ใช้ไม่ต้องออกจากอุปกรณ์

Q8: การแจกจ่ายโมเดลในโครงการ On-Device AI ระดับองค์กรทำได้อย่างไร?
A8: หลังจากแปลงโมเดลที่ผ่านการปรับแต่งให้อยู่ในรูปแบบมาตรฐานของแพลตฟอร์ม เช่น ONNX หรือ Core ML แล้ว โมเดลจะถูกแจกจ่ายไปยังอุปกรณ์ต่างๆ ในรูปแบบแพ็กเกจที่เข้ารหัสผ่านแพลตฟอร์มการจัดการอุปกรณ์เคลื่อนที่ระดับองค์กร (MDM) หรือผ่านการอัปเดตแอปพลิเคชัน และประมวลผลด้วยรันไทม์เอนจินภายในเครื่อง