AI หนึ่งเดียว ห้าชั้น อุปกรณ์นับล้านเครื่อง
ข้อมูลไหลขึ้นเป็นสัญญาณที่ถนอมความเป็นส่วนตัว ไม่ใช่เนื้อหาดิบ แต่ละชั้นมีหน้าที่ชัดเจนและพรมแดนความไว้วางใจของตัวเอง ตั้งแต่ชั้นฐานทางกายภาพจนถึงระนาบกำกับดูแลที่แก้ไขไม่ได้
ระบบห้าชั้น
ระนาบกำกับดูแลที่แก้ไขไม่ได้ ตรวจสอบรากฐานเลเวล 0 ในทุกขั้นตอน เฝ้าดูการอุบัติของความสามารถใหม่และการหาช่องโกงเป้าหมาย และถือประตูปล่อยเวอร์ชันขั้นสุดท้ายกับสวิตช์หยุดฉุกเฉิน มันไม่สามารถถูกแก้ไขโดยระบบที่มันกำกับดูแลอยู่
ลูปวิจัยอัตโนมัติบวกกับการปล่อยเวอร์ชันแบบแชมป์กับผู้ท้าชิง การทดลองต้นทุนต่ำใช้ค้นหาสูตร สูตรที่ผ่านการยืนยันจึงปลดล็อกการรันราคาแพง ผู้ท้าชิงจะถูกเลื่อนขั้นก็ต่อเมื่อชนะด้วยส่วนต่างที่มีนัยสำคัญ และไม่มีการถดถอยด้านความปลอดภัยเลย
โมเดลกลาง: แกนแบบ mixture of experts พร้อมเราเตอร์ การค้นคืนและหน่วยความจำระยะยาว การใช้เครื่องมือ การประสานงานเอเจนต์ และเฮดเฉพาะทาง เทรนบนเทียร์ GPU แล้วกลั่นลงสู่ AI ส่วนบุคคล
โมเดลขนาดกะทัดรัดบนอุปกรณ์ หนึ่งตัวต่อผู้ใช้หนึ่งคน เรียนรู้บริบทของคุณในเครื่อง ให้บริการอินเฟอเรนซ์แบบส่วนตัว ปรับแต่งเฉพาะบุคคล และส่งขึ้นไปเพียงสัญญาณการเรียนรู้ที่ถนอมความเป็นส่วนตัวเท่านั้น
รันไทม์ที่แยกจากฮาร์ดแวร์ ครอบคลุมโทรศัพท์ พีซี Mac และโหนด GPU การประมวลผลถูกวัดปริมาณและตรวจสอบ ข้อมูลดิบของผู้ใช้เกิดและดับอยู่ที่นี่ นี่คือพรมแดนความเป็นส่วนตัวที่เด็ดขาด
มันทำทุกอย่างด้วยตัวเอง
ภายใน Hylon คือระบบหนึ่ง เช่นเดียวกับ AI ที่แข็งแกร่งทุกตัว แต่สำหรับคุณและสำหรับเครือข่าย มันปรากฏเป็นผู้ช่วยหนึ่งเดียวที่ครบในตัวเอง โดยไม่พึ่งพาผู้ให้บริการภายนอกรายใดอย่างตายตัว
แกนแบบ mixture of experts
การกำหนดเส้นทางผู้เชี่ยวชาญแบบเบาบาง ทำให้โมเดลขยายความจุได้โดยไม่ต้องสเกลทุกโทเคน ซึ่งเป็นรูปแบบมาตรฐานของโมเดลที่แข็งแกร่ง
การค้นคืนและหน่วยความจำ
หน่วยความจำระยะยาวและการค้นคืนช่วยให้โมเดลมีบริบทที่คงทนเกินกว่าพรอมต์เดียว
การใช้เครื่องมือและเอเจนต์
โมเดลเรียกใช้เครื่องมือและประสานงานเอเจนต์หลายขั้นตอน จึงทำงานทั้งชิ้นให้จบได้ ไม่ใช่แค่ตอบในกล่องข้อความ
เฮดเฉพาะทาง
เฮดเฉพาะโดเมนสำหรับงานหัวหอกที่ Hylon ตั้งเป้าเป็นที่หนึ่งอย่างพิสูจน์ได้
บริบทของคุณอยู่บนอุปกรณ์ของคุณ
AI ส่วนบุคคลเรียนรู้จากข้อความ ไฟล์ และพฤติกรรมของคุณภายในเครื่อง ข้อมูลดิบไม่มีวันออกจากอุปกรณ์ สิ่งที่เครือข่ายเรียนรู้คือสัญญาณ ไม่ใช่ข้อมูล: อัปเดตโมเดลที่ถนอมความเป็นส่วนตัว แชร์ผ่าน federated learning ที่มี differential privacy และ secure aggregation จึงไม่มีข้อมูลของบุคคลใดถูกสร้างย้อนกลับได้
เราถือความเป็นส่วนตัวเป็นหลักประกันทางวิศวกรรมและท่าทีทางกฎหมายที่มีเอกสารรองรับ โดยประเมินแนวป้องกันกับการโจมตีแบบ membership inference และ model inversion เราไม่ได้อ้างว่าอยู่เหนือกฎหมาย แต่เราออกแบบให้ยืนหยัดได้ภายใต้กฎหมาย
สองเทียร์ รับเฉพาะงานที่ตรวจสอบแล้ว
กระจายศูนย์ด้วยภูมิศาสตร์และความเป็นเจ้าของ ไม่ใช่ด้วยการแสร้งว่าโทรศัพท์เทรนโมเดลได้ ปัญหาแบนด์วิดท์ถูกแก้แล้วด้วยการเทรนแบบสื่อสารต่ำ ภูเขาลูกจริงคือพลังประมวลผลรวม
การเทรนบนคลัสเตอร์ GPU
GPU ระดับดาต้าเซ็นเตอร์ แกนกลางที่ DAO เป็นเจ้าของบวกผู้ดำเนินการที่วางสเตก ประสานงานผ่านอินเทอร์เน็ตด้วยการเทรนแบบสื่อสารต่ำที่ลดความต้องการเครือข่ายลงมหาศาล แบนด์วิดท์แก้ได้แล้ว หน่วยความจำและพลังประมวลผลรวมคือขีดจำกัดที่แท้จริง
อุปกรณ์ทำในสิ่งที่มันทำได้จริง
เป้าหมาย: โทรศัพท์ พีซี และ Mac หนึ่งล้านเครื่อง ให้บริการอินเฟอเรนซ์ ปรับแต่งเฉพาะบุคคลบนอุปกรณ์ ให้คะแนนสัญญาณเสริมการเรียนรู้ และร่วมสมทบข้อมูล เบต้าโหนดที่เปิดอยู่เริ่มจากงานเบนช์มาร์กและงานตรวจสอบที่ยืนยันได้ ตรวจสอบเสมอ ไม่มีรางวัลจากการเปิดเครื่องทิ้งไว้เฉย ๆ
จ่ายให้ผลงานจริง ไม่ใช่เวลาเปิดเครื่อง
อินเฟอเรนซ์
การทำ locality sensitive hashing ของค่า activation ยืนยันว่าโหนดรันโมเดลจริง ด้วยต้นทุนเพียงเศษเสี้ยวของการรันซ้ำทั้งหมด
การเทรน
การให้คะแนนเชิงเศรษฐศาสตร์และเชิงสถิติบนชุดข้อมูลที่กันไว้ บวกกับการทำงานซ้ำซ้อน ช่วยจับการมีส่วนร่วมที่ไม่ซื่อสัตย์หรือคุณภาพต่ำ
ความเชื่อมั่นระดับสูง
Trusted execution environment รับรองเวิร์กโหลดที่อ่อนไหว ในกรณีที่ลูกค้าต้องการหลักประกันระดับฮาร์ดแวร์
มันพัฒนาและปล่อยเวอร์ชันใหม่ด้วยตัวเอง ภายใต้กรอบป้องกัน
ลูปวิจัยอัตโนมัติเสนอสูตร รันการทดลองต้นทุนต่ำ และเทรนโมเดลตัวเลือกรุ่นถัดไป เมื่อผู้ท้าชิงเอาชนะโมเดลที่ให้บริการอยู่บนชุดทดสอบเกตที่ตายตัวได้อย่างพิสูจน์ได้ และผ่านการตรวจสอบความปลอดภัยทุกข้อ มันจะถูกเลื่อนขั้นเป็นเวอร์ชันใหม่โดยอัตโนมัติ ทยอยปล่อยจากโหมดเงาสู่เต็มระบบพร้อมการย้อนกลับอัตโนมัติ และบันทึกไว้บนเชน
รากฐานเลเวล 0 ไม่สามารถถูกแก้ไขโดยตัวระบบเอง และสภาความปลอดภัยถือประตูปล่อยขั้นสุดท้ายพร้อมสวิตช์หยุดฉุกเฉิน ความทะเยอทะยานสูงสุด แต่รัศมีความเสียหายถูกจำกัดไว้
อ่านไวท์เปเปอร์เชิงเทคนิคฉบับเต็ม
ทุกกลไกบนหน้านี้ถูกระบุไว้อย่างละเอียดพร้อมแผนภาพในไวท์เปเปอร์ของ Hylon