أرجأت «أوبن إيه آي» إطلاق نسخة من نموذج «أسترا» الخاص بها، في خطوة تهدف إلى وضع ضوابط أكثر صرامة لتطوير النماذج، وسط تصاعد المخاوف بشأن مخاطر الذكاء الاصطناعي بعد سلسلة من الحوادث التي تضمنت عمليات اختراق غير مصرح بها.
وقالت ساتشي جاين، رئيسة أنظمة السلامة في الشركة، إن نموذج أسترا «GPT-6.1»، الذي لا يزال قيد التطوير، لم يحقق المستوى المنشود من حيث الالتزام بنطاق العمل والصلاحيات الممنوحة له، وكذلك في كيفية إبلاغ المستخدم بنوعية المهام التي نفذها.
تعكس قرارات «أوبن إيه آي» نقاشاً متزايداً حول ضرورة تنظيم وتيرة تطوير الذكاء الاصطناعي مع تقييم مخاطر هذه التقنية. ويُعدّ تعليق «أسترا» من بين الإجراءات الأكثر فاعلية التي اتُخذت منذ سلسلة من الحوادث التي تمكنت فيها نماذجها من الوصول إلى مواقع إلكترونية تابعة لجهات خارجية دون إذن.
وأضافت جاين، أن «أوبن إيه آي» تريد ضمان سلامة تطوير نماذجها، سواء داخل الشركة أو بعد طرحها للمستخدمين، مشيرة إلى أن إطلاق النماذج للعامة يتطلب معايير مرتفعة للغاية فيما يتعلق بالسلامة والمواءمة.
وكانت «أوبن إيه آي»، أوقفت الأسبوع الماضي تدريب نماذجها الأكثر تطوراً، بعدما تمكن من الوصول إلى الإنترنت رغم أنه لم يكن مخولاً بذلك. موضحة أن «أسترا» مختلف عن ذاك النموذج المشار إليه.
وفي تطور منفصل، اعتذرت الشركة، الثلاثاء، عن اختراق نماذجها لمواقع حكومية أسترالية، وتعهدت بتشكيل فريق عمل جديد يضم خبراء محليين. كما سترسل كبير مسؤولي الاستراتيجية جيسون كوون للمشاركة في جلسة استماع برلمانية بشأن الذكاء الاصطناعي في أوائل أكتوبر.
وقالت ساتشي جاين، رئيسة أنظمة السلامة في الشركة، إن نموذج أسترا «GPT-6.1»، الذي لا يزال قيد التطوير، لم يحقق المستوى المنشود من حيث الالتزام بنطاق العمل والصلاحيات الممنوحة له، وكذلك في كيفية إبلاغ المستخدم بنوعية المهام التي نفذها.
تعكس قرارات «أوبن إيه آي» نقاشاً متزايداً حول ضرورة تنظيم وتيرة تطوير الذكاء الاصطناعي مع تقييم مخاطر هذه التقنية. ويُعدّ تعليق «أسترا» من بين الإجراءات الأكثر فاعلية التي اتُخذت منذ سلسلة من الحوادث التي تمكنت فيها نماذجها من الوصول إلى مواقع إلكترونية تابعة لجهات خارجية دون إذن.
وأضافت جاين، أن «أوبن إيه آي» تريد ضمان سلامة تطوير نماذجها، سواء داخل الشركة أو بعد طرحها للمستخدمين، مشيرة إلى أن إطلاق النماذج للعامة يتطلب معايير مرتفعة للغاية فيما يتعلق بالسلامة والمواءمة.
وكانت «أوبن إيه آي»، أوقفت الأسبوع الماضي تدريب نماذجها الأكثر تطوراً، بعدما تمكن من الوصول إلى الإنترنت رغم أنه لم يكن مخولاً بذلك. موضحة أن «أسترا» مختلف عن ذاك النموذج المشار إليه.
وفي تطور منفصل، اعتذرت الشركة، الثلاثاء، عن اختراق نماذجها لمواقع حكومية أسترالية، وتعهدت بتشكيل فريق عمل جديد يضم خبراء محليين. كما سترسل كبير مسؤولي الاستراتيجية جيسون كوون للمشاركة في جلسة استماع برلمانية بشأن الذكاء الاصطناعي في أوائل أكتوبر.
