وتتحدث عن قضايا الأمن والذكاء الاصطناعي إلى الواجهة، بعد أن أعلنت شركة الباحث في شركة “أنثروبيك” جيكوب كوكسون، في وقت سابق من هذا الأسبوع، أنها قررت أن تتمكن من تطوير الخوارزميات، ومقدما خطوته سباق تلك الشركات التكنولوجية لما يقرب من العالم من “نقطة اللاعودة”، وقد قادت إلى سيناريو كارثي بحلول نهاية عام 2027.
وبحسب كوكسون، فإن شركتي “أنثروبيك” و”أوبن إيه آي” تندفعان نحو تطوير عقل قادر على تحسين نفسه بوتيرة أسرع من التحسن والفائدة الأخرى.
وذهبه في ذلك الباحث في شركة “أنثروبيك” إيفان هيوبينغر، وقال: “وأعتقد شخصيًا أن احتمال القضاء على البشر خلال المؤتمر المقبل يزيد على 10%”.
وتقول البوابة: “تستطيع الشركات إيقاف بعض الأسباب التي تعتمد عليها الذكاء الاصطناعي، ولكن الالكترونيات حقا تعمل على الكمبيوتر ومن الكثير من الإشارات، لا يوجد مفتاح واحد يمكن سحبه لإيقافها. ولذلك السبب تجرّب الشركات تجارب على أنظمة حماية متعددة، ولا تستطيع اكتشاف السلوك المشبوه وإيقاف الوكلاء والوصول إلى الخارج عن السيطرة على الموارد التي تحتاج إليها العمل”.
توصلت شركة “أوبن بمعنى آي” إلى هدفهم فيتوصل إلى “إجراءات تلقائية مستقلة تماماً عند إذن إذن”، بحيث ينبه نظام مراقبة القائمة على الذكاء الاصطناعي للموظفين إذا بدأ له أن يتحكم في وكلاء الذكاء الاصطناعي خطرا، ويوقف النظام خلال 30 دقيقة إذا تأكد وجودها.
وتراهن شركة “أنثروبيك” على الجمع بين الإنسان والذكاء الاصطناعي، إذ تراقب خوارزميات النشاط المشبوه وتبلغ الموظفين عن أسباب العمل. ومع ذلك، حاولنا التعديل الأخير للتحكم في تحديد 50% فقط من أي شيء.(روسيا اليوم)
