يتحكم الباحثون في المنازل الذكية مع مؤشرات الجوزاء الذكاء الخبيثة

من التقارير والمظاهرات الحديثة مؤتمر أمن الكمبيوتر الأسود قبعة لقد ثبت أن الجوزاء يشار إليه خارج الذكاء الاصطناعي ، يسمى على الفور. هذه مشكلة بالنسبة لـ Google ، التي تعمل على تضمين ميزات Gemini في تطبيق Google Home الخاص بها واستبدال مساعد Google بمساعد الذكاء الاصطناعي الجديد.

سر هذه الأخطار الخطيرة هو كيف تم تصميم الجوزاء للرد على الطلبات الأساسية باللغة الإنجليزية. يوضح العرض التوضيحي كيف سيتم قراءة دعوة تقويم Google التي تم إدراجها بواسطة Gemini بنفس الطريقة التي تقوم بمسح بيانات تطبيق Google الأخرى ، مثل وقت تلخيص رسائل البريد الإلكتروني. ولكن في هذه الحالة ، تمنح هذه الزيادة الجوزاء طلبًا خاصًا للغاية ، مثل إنشاء وكيل للتحكم في الأجهزة اليومية من Google Home.

باحثون في جامعة تل أبيب ، بما في ذلك بن ناسي وستيف كوهين ويار ، أنشأ موقع الويب الخاص بك يعرض تقريرهم ، بعنوان الدعوة التي تحتاجها. أنه يحتوي على مقاطع فيديو توضح كيف يمكن استخدام مؤشرات الصالة الرياضية المناسبة لفتح النوافذ أو إيقاف تشغيل الأضواء أو تنشيط المرجل أو جيولوجيًا للمستخدم الحالي.

منذ الدعوة التي تحتاج إلى البحث برامج البحث، يمكن إخفاء إشارة مفصلة في عنوان فاتورة تقويم بريء أو ما شابه. يمكن لهذه الطلبات أن تجعل الجوزاء وكيلًا مخفيًا وينتظر بعض رد الفعل العام (مثل قول “شكر” في بريد إلكتروني) لتعبئة بعض المهام.

حتى إذا كانت عناصر التحكم في التقويم ضيقة ، فيمكن تنفيذ بعض هذه الهجمات فورًا من خلال أشياء أخرى تقوم بمسح الجيميني ، مثل خط مقال البريد الإلكتروني. توضح العروض الأخرى كيف يمكن أن تؤدي الطلبات إلى رسائل البريد العشوائي والأحداث المحذوفة وتدفق التكافؤ التلقائي والحيل غير السارة.

هل يجب أن تقلق بشأن أجهزة Google Home الخاصة بك؟

أخبرت Google CNET أنهم إدخال تصحيحات متعددة عندما قدم الباحثون تقريرهم إلى Google في فبراير 2015 ، للتعامل مع التهديدات على الفور. هذا هو الهدف من مؤتمرات القبعة السوداء – قبل التقاط التمييز الإلكتروني الحقيقي ، وفضح المشاكل ، والحصول على إصلاحات بسرعة.

وقال آندي وين ، مدير إدارة المنتجات الأمنية في Google Workpace: “قبل العمل العظيم والإفصاحات المسؤولة عن بن ناسي والفريق ، قمنا بتسوية القضية قبل استغلالها”. وقال CNET: “لقد وفرنا بحثه بمساعدة الرواية ، مما يوفر لنا طريقة جديدة لحمايتنا”.

إذا كنت لا تزال قلقًا ، فيمكنك تعطيل الجوزاء تمامًا في معظم الحالات.

كما قمت بتغطيته من قبل ، فإن اختراق المنزل الذكي منخفض للغاية وصعب للغاية مع أحدث تدابير السلامة اليوم. ولكن نظرًا لأن هذه الذكاء الاصطناعي الجديد يتم ربطها في المنازل الذكية (تدريجياً Alexa Plus وما يترتب على ترقية SRI AI) ، فهناك فرصة لجلب نقاط ضعف جديدة معهم. الآن ، نرى كيف يعمل بالفعل ، وأريد الحصول على ميزات AI هذه في أسرع وقت ممكن ، تمريرة أمان أخرى.