ماهي أبرز مخاطر وعيوب ChatGPT؟ وكيف يمكن تفاديها؟
كان هناك حديث كبير عن الوظائف والمميزات الثورية التي جلبتها تقنية ChatGPT وكيف يمكن لها مساعدة الانسان في رفع من جودة حياته من خلال عملها كمستشار شخصي ودليل مختصر للمعلومات والخدمات التي تحتاجها. لكن يجب التنبيه عن بعض المخاطر والعيوب التي يجب معرفتها وإدراكها كأفراد ومؤسسات ممكن مواجهتها من خلال التعامل مع هذه التقنية. فأبرز مخاطرها مايلي:
1. خطر انتهاك الخصوصية: قد يتم جمع البيانات الشخصية وحفظها عند استخدام هذه التقنية، ويمكن أن يتم استخدام هذه البيانات في أغراض غير مشروعة أو غير أخلاقية، وهذا يمثل تهديدًا للخصوصية والأمان الإلكتروني. لذلك يجب الحذر من إعطاءه اي معلومات شخصية أو حساسة أو سرية عن المؤسسة.
2. خطر الاستخدام غير المشروع: حيث يمكن استخدام تقنية ChatGPT بطرق غير مشروعة، مثل استخدامها في الاحتيال أو الاحتيال الإلكتروني، وهذا يمثل خطرًا على الأمن الرقمي والثقة بالأنظمة الإلكترونية.
3. خطر الإيذاء النفسي: يمكن أن يؤدي استخدام تقنية ChatGPT بطريقة غير مسؤولة إلى الايذاء النفسي للمستخدمين، خاصة في حالة استخدامها في المجالات الحساسة مثل الصحة النفسية.
4. خطر الاعتماد الزائد على هذه التقنية: يمكن أن يؤدي الاعتماد الزائد على تقنية ChatGPT إلى إهمال الأساليب الأخرى في التواصل والتفاعل، وهذا يمثل خطرًا على العلاقات الاجتماعية والثقافية. وأيضاً قد يسبب فقدان المستخدم بعض المهارات المهمة والرئيسة مثل مهارة التفكير، مهارة التحليل، مهارة كتابة المحتوى، مهارة التلخيص، ومهارة البحث.
5. خطر عدم الدقة: قد يؤدي استخدام تقنية ChatGPT بطريقة غير دقيقة إلى إعطاء إجابات خاطئة، وهذا يمثل خطرًا على الأمن الرقمي والمعلومات الصحية.
6. البيانات يتم تخزينها خارج الحدود الجغرافية في المملكة وهذا يتعارض مع أحد أهم السياسات والضوابط للتعامل مع البيانات الوطنية في المملكة. لذلك يجب الحذر بمشاركة البيانات الشخصية.
7. خطر تأثيرة في مخزجات العملية التعليمية والبحثية. وهذا قد يأدي إلى فقدان الكثير من مهارات التعلم كالإعتماد عليه في تسليم الواجبات والمشاريع وكتابة الأوراق العلمية.
وهنا بعض السلبيات التي تم رصدها:
1. دقة المعلومات حيث أن المعلومات التي يتم توليدها قد تكون غير دقيقة ومضللة لذلك يجب الحذر من الثقة الكاملة في هذه المعلومات.حيث تحتاج التقنية المزيد من التدريب والتعليم لتحسين دق الإجابات. ففي موقع Openai ذكروا أن النموذج لازال تحت التجربة وقد يولد بعض المعلومات الغير صحيحة لذلك يشجعون على التدقيق على النصوص التي يتم توليدها. علماً أن ChatGPT 4.0 حقق دقة أكثر من النسخة السابقة ب 40% لذلك ينصح باستخدامه.
2. تحيز المعلومات و ظهور العنصرية والتمييز. حيث لوحظ بعض الاسئلة يقوم ChatGPT بالتحيز لرأي معين أو فئة أو عرق معين.
3. عدم حداثة المعلومات. حيث يلاحظ أن النموذج مدرب على النصوص الموجودة في الإنترنت حتى عام 2021.
4. عدم الوصول للبيانات التي تم تدريبه عليها. وهذا يعطي ثقة أقل للمخرجات التقنية.
5. عدم الاستجابة للمشاعر: تقنية ChatGPT لا تتمتع بالقدرة على استجابة للمشاعر والعواطف، وهذا يعني أنها لا يمكنها الاستجابة بشكل مناسب للمواقف التي تتطلب التعاطف.
من هنا يجب الانتباه إلى أن هذه المخاطر لا تعني بالضرورة أن تقنية ChatGPT خطرة وغير مفيدة، وإنما تشير إلى أنها تحتاج إلى استخدامها بشكل مسؤول ومتزن لتحقيق أفضل النتائج وتجنب الآثار والمخاطر السلبية.
منقول
https://www.linkedin.com/posts/dr-mejdal_%D9%85%D8%A7%D9%87%D9%8A-%D8%A3%D8%A8%D8%B1%D8%B2-%D9%85%D8%AE%D8%A7%D8%B7%D8%B1-%D9%88%D8%B9%D9%8A%D9%88%D8%A8-chatgpt-%D9%88%D9%83%D9%8A%D9%81-%D9%8A%D9%85%D9%83%D9%86-activity-7059988010569711616-5E2O?utm_source=share&utm_medium=member_android