صرح المؤسس المشارك لإيثيريوم فيتاليك بوتيرين أن الذكاء الاصطناعي المحلي بات قريباً من تولي نسبة كبيرة من المهام اليومية. وقد شغل نموذج كوين٣,٨-فلاش-نيكست من علي بابا على جهاز اللابتوب الخاص به ونشر نتائج السرعة.
على عكس شات جي بي تي، هذا الإعداد لا يتواصل أبداً مع خادم سحابي. يبقى النموذج على الجهاز، ويجيب الجهاز بنفسه على الطلب.
يُظهر اختبار الذكاء الاصطناعي المحلي الذي أجراه فيتاليك بوتيرين سرعة عملية قابلة للاستخدام
يستخدم جهاز اللابتوب الخاص به شريحة ستريكس هالو من ايه ام دي. عادةً ما توزع معظم الحواسيب العمل بين معالج وبطاقة رسومات منفصلة، ويحتفظ كل منهما بذاكرته الخاصة. بينما تجمع ستريكس هالو كليهما في شريحة واحدة وتسمح لهما بمشاركة نفس الذاكرة.
تؤثر هذه البنية لأن نموذج الذكاء الاصطناعي يجب أن يناسب الذاكرة قبل أن يعمل إطلاقاً. وتقدم بطاقة الرسومات العادية ما بين ٨ إلى ٢٤ جيجابايت، وهو أقل بكثير لنموذج بهذا الحجم. أما أجهزة ستريكس هالو فتأتي بذاكرة تصل إلى ١٢٨ جيجابايت يمكن لأي من نصفي الشريحة استخدامها. بالتالي يمكن لجهاز لابتوب واحد احتواء نموذج كان يحتاج حديثاً إلى عتاد الخوادم.
جاءت السرعات التي نشرها مناسبة للأعمال اليومية الاعتيادية. فقد استجاب للنصوص القصيرة بوتيرة قراءة مريحة. أما عند الوصول إلى عشرات آلاف الكلمات في الطلب، فقد تباطأ الناتج، لذا تظل المستندات الطويلة جداً نقطة ضعف.
نشرت علي بابا الأوزان المفتوحة في ٢٦ أغسطس. وأعلنت أن النموذج يضم ١٢٥ مليار وحدة باراميتر ولكنه ينشط ستة مليارات فقط في الوقت نفسه، مما يحافظ على متطلبات الذاكرة عند حد معقول.
قام بوتيرين بتسمية النموذج كوين٣,٨-فلاش، بينما توفر علي بابا النسخة القابلة للتنزيل باسم كوين٣,٨-فلاش-نيكست. أما النسخة الأكبر، كوين٣,٨-ماكس، فقد حصلت في أغسطس على نتائج قوية عبر اختبارات الأداء.
لماذا تغيّر الخصوصية معادلة الحساب
يرى بوتيرين أن هناك فائدة أخرى تتجاوز مجرد السرعة الخام. إذ يجيب النموذج المحلي على الجهاز ذاته، فلا يتلقى المزود أي طلب على الإطلاق.
بالنسبة للمهام الأصعب، اقترح تقسيم التنفيذ. يدير النموذج المحلي ما يستطيع، ثم ينزع التفاصيل الحساسة من كل ما يرسله إلى نظام مستضاف أكبر.
قال بوتيرين يجب استخدام النموذج المحلي لتنظيم الطلبات إلى النماذج الأقوى حتى لا تتسرب المعلومات الشخصية خلال استفساراتك
عملياً، يقوم النموذج المحلي باستخراج الأسماء أو عناوين المحافظ أو الأكواد الخاصة من الطلب، ثم يرسل فقط السؤال المتبقي. تسهم هذه الفلترة في تقليل ما يغادر الجهاز، لكنها لا تضمن منع تسلل البيانات الحساسة بالكامل.
طابق هذا العرض سجله. حذر من المراقبة خلال معركة الاتحاد الأوروبي للسيطرة على الدردشة، و دفع مستخدمو العملات الرقمية نحو فرض قيود أشد على الوكلاء لأسباب مشابهة.
اتهمت دعوى جماعية رُفعت في مايو شركة OpenAI بـ مشاركة استفسارات مستخدمي ChatGPT مع شركة ميتا و جوجل.
يملك مزودو الحوسبة السحابية الحدود المتقدمة حتى الآن. لكن كل تقدم في الأداء المحلي ينقل المزيد من الأعمال الروتينية بعيداً عن خوادمهم، و يستمر انتشار أجهزة الذاكرة المشتركة الرخيصة.
يبقى السؤال المفتوح حول مقدار الإمكانيات التي سيستبدلها الناس بالتحكم.
