โซลูชัน Google Cloud ของ AI Edge สำหรับการทดสอบและเปรียบเทียบประสิทธิภาพแมชชีนเลิร์นนิง (ML) ในอุปกรณ์ในวงกว้าง
การเพิ่มประสิทธิภาพโมเดล ML ในอุปกรณ์เคลื่อนที่ที่หลากหลายอาจเป็นเรื่องยาก การทดสอบด้วยตนเองนั้นช้า สิ้นเปลือง และนักพัฒนาซอฟต์แวร์ส่วนใหญ่มักเข้าถึงไม่ได้ ซึ่งทําให้ประสิทธิภาพของโมเดลในโลกแห่งความเป็นจริงมีความไม่แน่นอน AI Edge Portal ของ Google ช่วยแก้ปัญหานี้ด้วยการทําการเปรียบเทียบประสิทธิภาพโมเดล LiteRT ในอุปกรณ์เคลื่อนที่ที่หลากหลาย ซึ่งช่วยให้นักพัฒนาซอฟต์แวร์พบการกําหนดค่าที่ดีที่สุดสําหรับการติดตั้งใช้งานโมเดล ML ขนาดใหญ่
การเพิ่มประสิทธิภาพการใช้งาน ML บนอุปกรณ์เคลื่อนที่
ลดความซับซ้อนและเร่งวงจรการทดสอบในสภาพแวดล้อมฮาร์ดแวร์ที่หลากหลาย: ประเมินประสิทธิภาพของโมเดลในอุปกรณ์เคลื่อนที่ตัวแทนหลายร้อยเครื่องได้ภายในไม่กี่นาที
ตรวจสอบคุณภาพของโมเดลและระบุปัญหาตั้งแต่เนิ่นๆ อย่างสม่ำเสมอ: ระบุความแปรปรวนหรือความถดถอยของประสิทธิภาพที่เจาะจงฮาร์ดแวร์ (เช่น ในชิปเซ็ตหรืออุปกรณ์ที่มีหน่วยความจําจํากัด) ก่อนการทําให้ใช้งานได้
ลดค่าใช้จ่ายในการทดสอบอุปกรณ์และเข้าถึงฮาร์ดแวร์ล่าสุด: ทดสอบกับอุปกรณ์จริงที่หลากหลายและเพิ่มขึ้นอย่างต่อเนื่อง (ปัจจุบันมีอุปกรณ์มากกว่า 100 รุ่นจาก OEM ต่างๆ ของ Android) โดยไม่ต้องเสียค่าใช้จ่ายและยุ่งยากในการดูแลรักษาห้องทดลองของคุณเอง
ปลดล็อกการตัดสินใจและข้อมูลเชิงลึกทางธุรกิจที่มีประสิทธิภาพซึ่งอิงตามข้อมูล: พอร์ทัล AI Edge ของ Google แสดงข้อมูลประสิทธิภาพและการเปรียบเทียบที่สมบูรณ์ ซึ่งให้ข้อมูลเชิงลึกทางธุรกิจที่สําคัญซึ่งจําเป็นในการแนะนําการเพิ่มประสิทธิภาพโมเดลและตรวจสอบความพร้อมใช้งาน
ตัวอย่างการเปรียบเทียบ
วิธีที่ Google AI Edge Portal ช่วยคุณเปรียบเทียบประสิทธิภาพโมเดล LiteRT
อัปโหลดและกําหนดค่า: อัปโหลดไฟล์โมเดลผ่าน UI หรือชี้ไปยังไฟล์ในที่เก็บข้อมูล Google Cloud Storage
เลือก Accelerator: ระบุการทดสอบกับ CPU หรือ GPU (พร้อมการสำรองข้อมูล CPU โดยอัตโนมัติ) เราวางแผนที่จะรองรับ NPU ในรุ่นที่ออกในอนาคต
เลือกอุปกรณ์: เลือกอุปกรณ์เป้าหมายจากกลุ่มอุปกรณ์ที่หลากหลายโดยใช้ตัวกรอง (ระดับอุปกรณ์ แบรนด์ ชิปเซ็ต แรม) หรือเลือกรายการที่ดูแลจัดการด้วยแป้นพิมพ์ลัดที่สะดวก
สร้างงานการเปรียบเทียบใหม่ในอุปกรณ์มากกว่า 100 เครื่อง (หมายเหตุ: GIF นี้เร่งความเร็วและตัดให้สั้นลง)
จากนั้นส่งงานและรอให้เสร็จสมบูรณ์ เมื่อพร้อมแล้ว ให้สำรวจผลการค้นหาในแดชบอร์ดแบบอินเทอร์แอกทีฟ ดังนี้
เปรียบเทียบการกำหนดค่า: ดูภาพรวมของความแตกต่างของเมตริกประสิทธิภาพ (เช่น เวลาในการตอบสนองโดยเฉลี่ย หน่วยความจำสูงสุด) เมื่อใช้โปรแกรมเร่งความเร็วที่แตกต่างกันในอุปกรณ์ทั้งหมดที่ทดสอบ
วิเคราะห์ผลกระทบของอุปกรณ์: ดูประสิทธิภาพของการกำหนดค่ารุ่นที่เฉพาะเจาะจงในอุปกรณ์ที่เลือก ใช้ผังความถี่และผังกระจายเพื่อระบุความแปรปรวนของประสิทธิภาพที่เชื่อมโยงกับลักษณะของอุปกรณ์ได้อย่างรวดเร็ว
เมตริกแบบละเอียด: เข้าถึงตารางแบบละเอียดที่เรียงลำดับได้ ซึ่งแสดงเมตริกที่เฉพาะเจาะจง (เวลาเริ่มต้น เวลาที่ใช้ในการอนุมาน การใช้หน่วยความจำ) ของอุปกรณ์แต่ละเครื่อง พร้อมกับข้อกำหนดของฮาร์ดแวร์
ดูผลลัพธ์การเปรียบเทียบในแดชบอร์ดแบบอินเทอร์แอกทีฟ (หมายเหตุ: GIF นี้เร่งความเร็วและตัดต่อให้สั้นลง)
เข้าร่วมเวอร์ชันตัวอย่างแบบส่วนตัวของ Google AI Edge Portal
พอร์ทัล Google AI Edge พร้อมให้บริการในการแสดงตัวอย่างแบบจำกัดสำหรับลูกค้า Google Cloud ในรายการที่อนุญาต ในช่วงทดลองใช้เวอร์ชันตัวอย่างก่อนเปิดตัวนี้ คุณจะเข้าถึงได้โดยไม่เสียค่าใช้จ่าย โดยขึ้นอยู่กับข้อกำหนดของเวอร์ชันตัวอย่าง
ตัวอย่างนี้เหมาะสำหรับนักพัฒนาซอฟต์แวร์และทีมที่สร้างแอปพลิเคชัน ML บนอุปกรณ์เคลื่อนที่ด้วย LiteRT ที่ต้องการข้อมูลการเปรียบเทียบที่เชื่อถือได้ในฮาร์ดแวร์ Android ที่หลากหลาย และยินดีให้ความคิดเห็นเพื่อช่วยกำหนดอนาคตของผลิตภัณฑ์ หากต้องการขอสิทธิ์เข้าถึง ให้กรอกแบบฟอร์มลงชื่อสมัครใช้ที่นี่เพื่อแสดงความสนใจ ระบบจะมอบสิทธิ์เข้าถึงผ่านรายการที่อนุญาต