“أوبن إيه أي” تضع مبادئ توجيهية للتعامل مع مخاطر الذكاء الاصطناعي
وضعت شركة “أوبن إيه أي”، المطورة لتطبيق “تشات جي بي تي”، مجموعة من المبادئ التوجيهية التي توضح كيف تخطط الشركة للتعامل مع ما قد تعتبره مخاطر شديدة من أنظمة الذكاء الاصطناعي لديها.
قد يعجبك..Open AI تتجه لإصدار ChatGPT Professional باشتراك شهري
ويتضمن ذلك تشكيل فريق “الاستعداد” الذي سيقيم بشكل مستمر أنظمة الذكاء الاصطناعي الخاصة بها لمعرفة مدى نجاحها عبر أربعة فئات مختلفة، بما في ذلك مشكلات الأمن السيبراني المحتملة بالإضافة إلى التهديدات الكيميائية والنووية والبيولوجية.
المخاطر “الكارثية”
كما تراقب الشركة ما تسميه المخاطر “الكارثية”، والتي تحددها في المبادئ التوجيهية بأنها “أي خطر يمكن أن يؤدي إلى أضرار اقتصادية بمئات المليارات من الدولارات أو يؤدي إلى ضرر جسيم أو وفاة العديد من الأفراد”.
وقال ألكسندر مادري، الذي يقود مجموعة “الاستعداد”، إن فريقه سيقوم بشكل متكرر بتقييم نماذج الذكاء الاصطناعي. الأكثر تقدماً والتي لم يتم إصدارها من قبل أوبن إيه أي، وتصنيفها على أنها “منخفضة” أو “متوسطة” أو “عالية” أو “حرجة” لأنواع مختلفة من المخاطر المتصورة.
كما أضاف مادري أن الفريق سيعمل أيضًا مع خبراء خارجيين لتحديد. وتقييم المخاطر المحتملة لأنظمة الذكاء الاصطناعي.
وتأتي هذه المبادئ التوجيهية في الوقت الذي تواجه فيه شركات الذكاء الاصطناعي ضغوطًا متزايدة لمعالجة المخاطر المحتملة لتقنياتها.
وفي عام 2022، أصدرت منظمة التعاون الاقتصادي والتنمية تقريرًا يحذر من أن الذكاء الاصطناعي يمكن أن يستخدم لنشر المعلومات المضللة وإنشاء أسلحة ذاتية القيادة.
وقالت منظمة التعاون الاقتصادي والتنمية إن الحكومات والشركات بحاجة إلى العمل معًا لتطوير إطار تنظيمي للذكاء الاصطناعي يعالج هذه المخاطر.
وتعد أوبن إيه أي واحدة من الشركات الرائدة في مجال البحث والتطوير في مجال الذكاء الاصطناعي.
تشات جي بي تي
وكانت الشركة قد أصدرت في عام 2022 نموذج تشات جي بي تي، وهو نموذج لغة كبير يمكنه إنشاء نص يصعب تمييزه عن النص البشري.
وواجه نموذج تشات جي بي تي انتقادات بسبب إمكانية استخدامه لنشر المعلومات المضللة أو إنشاء محتوى ضار.
كما تهدف المبادئ التوجيهية الجديدة التي وضعتها أوبن إيه أي إلى معالجة هذه المخاوف. من خلال توفير إطار لتقييم وإدارة المخاطر المحتملة لأنظمة الذكاء الاصطناعي.
المبادئ التوجيهية
تقييم المخاطر المحتملة: سيقيم فريق “الاستعداد” بشكل مستمر أنظمة الذكاء الاصطناعي الخاصة بأوبن إيه أي لمعرفة مدى نجاحها عبر أربعة فئات مختلفة، بما في ذلك مشكلات الأمن السيبراني المحتملة بالإضافة إلى التهديدات الكيميائية والنووية والبيولوجية.
تحديد المخاطر الكارثية: ستحدد أوبن إيه أي ما تسميه المخاطر “الكارثية”. والتي تحددها في المبادئ التوجيهية بأنها “أي خطر يمكن أن يؤدي إلى أضرار اقتصادية بمئات المليارات من الدولارات أو يؤدي إلى ضرر جسيم أو وفاة العديد من الأفراد”.
تقييم النماذج الجديدة: سيقيم فريق “الاستعداد” بشكل متكرر نماذج الذكاء الاصطناعي الأكثر تقدماً والتي لم يتم إصدارها من قبل أوبن إيه أي. وتصنيفها على أنها “منخفضة” أو “متوسطة” أو “عالية” أو “حرجة” لأنواع مختلفة من المخاطر المتصورة.
العمل مع الخبراء الخارجيين: سيعمل فريق “الاستعداد” أيضًا مع خبراء خارجيين. لتحديد وتقييم المخاطر المحتملة لأنظمة الذكاء الاصطناعي.
وقال مادري إن الشركة ملتزمة بتطوير أنظمة ذكاء اصطناعي آمنة ومسؤولة. مضييفًا أن المبادئ التوجيهية الجديدة هي خطوة مهمة في هذا الاتجاه.
مقالات ذات صلة:
ChatGPT Voice.. ثورة صوتية في عالم الذكاء الاصطناعي
التعليقات مغلقة.