نصائح كاسبرسكي للحد من مخاطر الذكاء الاصطناعي التوليدي في بيئة العمل

سرعان ما اصبحت أدوات الذكاء الاصطناعي التوليدي جزءاً أساسياً من بيئة العمل الحديثة، حيث تساعد في عدد من مهام العمل التي تتراوح من صياغة التقارير وحتى تحليل جداول البيانات وغيرها. ووجدت دراسة عالمية أجرتها كاسبيرسكي أن 95% من المشاركين من كبار المسؤولين التنفيذيين يدركون أن أدوات الذكاء الاصطناعي التوليدي تُستخدم داخل مؤسساتهم، وكان أكثر من نصفهم (59%) قلقاً من مخاطر تسريب الموظفين لمعلومات حساسة دون قصد عند استخدام الذكاء الاصطناعي. لذا، يقدم خبراء كاسبرسكي نصائح حول كيفية تمكين المؤسسات من استخدام أدوات الذكاء الاصطناعي التوليدي بطريقة تقلل من المخاطر.

معلقاً على الأمر، قال فلاديسلاف توشكانوف، مدير مجموعة تعلم الآلة لدى كاسبرسكي: «تمكن أدوات الذكاء الاصطناعي التوليدي الموظفين من تحقيق إنتاجية أعلى، حيث تساعد التكنولوجيا في تحليل البيانات وتنفيذ المهام الروتينية. ومع ذلك، يستخدم العديد من الأشخاص الذكاء الاصطناعي دون الحصول على الأذون المطلوبة من أصحاب العمل. مما قد يشكل مخاطراً كبيرة على المنظمة. فعلى سبيل المثال، يستمر تسريب البيانات بكونه مصدر قلق كبير في المجال. وعلاوة على ذلك، قد يحصل الموظفون على معلومات خاطئة ويتصرفون بناءً عليها نتيجة مغالطات الذكاء الاصطناعي. إذ يحدث ذلك عندما تقدم النماذج اللغوية الكبيرة معلومات خاطئة بشكل يبدو موثوقاً. ويمكن أن تكون هذه المغالطات خطيرة أكثر حتى عند استخدام الذكاء الاصطناعي التوليدي للمشورة حول كيفية إكمال مهام معينة في العمل.»

اصبحت مواجهة هذا التحدي ضرورة حتمية للأعمال حالياً. فقد كشف استطلاع آخر أجرته كاسبرسكي أن 40% من المشاركين في الشرق الأوسط و تركيا و أفريقيا يرون الذكاء الاصطناعي كأحد أفراد فريق العمل حالياً. وما يزيد من تعقيد الأمر هو مدى فعالية مصادر التهديد في تبني أدوات الذكاء الاصطناعي التوليدي لإنشاء هجمات هندسة اجتماعية أكثر إقناعاً لدى استهداف الأفراد. ويتضمن ذلك استخدامات مثل صياغة رسائل تصيد احتيالي مخصصة؛ وتوليد مقاطع تزييف عميق تحتوي أصواتاً، أو فيديو، أو نصوصاً واقعية تنتحل شخصيات الأفراد؛ ونشر حملات التضليل التي يمكن أن تؤثر على الرأي العام أو تحجب الحقيقة.

استطرد توشكانوف قائلاً: «لا يعني ذلك وجوب منع المنظمات لأدوات الذكاء الاصطناعي التوليدي بشكل كامل. بل يجب على صناع القرار إجراء تقييم شامل للمخاطر لفهم أي أجزاء من روتين الأعمال اليومي يمكن أتمتتها باستخدام أدوات الذكاء الاصطناعي التوليدي دون رفع مستوى التهديدات التي تواجهها الشركات.»

 

بذلك، يمكن للمؤسسات اعتماد نهج مركزي عندما يتعلق الأمر بتبني الذكاء الاصطناعي التوليدي. فمن الممكن الحصول على الخدمات عبر حسابات مؤسسية من مزودي الخدمات السحابية مع ضمان وجود جميع معايير الحماية اللازمة. ويمكن أن تشمل هذه المعايير مراقبة أي معلومات تعريف شخصية محتملة في الرسائل، فضلاً عن الإشراف العام. كما ينبغي على المنظمات تثقيف موظفيها حول الاستخدام المقبول للذكاء الاصطناعي التوليدي والطرق المناسبة للوصول إليه تحت إشراف الشركة.

يمكن للمؤسسات تحسين إنتاجية الموظفين بشكل كبير وزيادة رضاهم الوظيفي من خلال فهم فوائد ومخاطر استخدام الذكاء الاصطناعي التوليدي والتأكد من وجود التدابير الأمنية الضرورية لتفادي أي مخاطر محتملة. ويجب أن تتضمن القواعد العامة للموظفين عدم الكشف عن البيانات السرية لأدوات الذكاء الاصطناعي؛ وعدم الاعتماد على نصائحها في أي الحالات الحساسة؛ والتحقق من المعلومات؛ وتذكر أن البيانات المقدمة إلى روبوت المحادثة يمكن أن تتسرب. كما يجب التحقق من كون جميع الحواسيب والخوادم التي تعمل بأنظمة قائمة على النماذج اللغوية الكبيرة محمية بأدوات أمنية حديثة.

واختتم توشكانوف قوله: «قد لا يكون حظر أدوات مثل ChatGPT وسواها هو الخيار الأفضل. إذ يمكن استخدام الذكاء الاصطناعي التوليدي بشكل إيجابي من خلال إيجاد موقف متوازن بين الحذر الأشد من اللازم والحذر الأقل من اللازم. وعلى نطاق أوسع، يمكن للشراكات بين القطاعين العام والخاص أن تجعل الذكاء الاصطناعي التوليدي عامل تمكين أساسي يساعد في تنمية الأعمال، وزيادة الإنفاق على الابتكار، والإدارة السليمة للمخاطر.»

زر الذهاب إلى الأعلى
|
عاجل
محمد الأعصر : توقعات بزيادة أسعار الوحدات العقارية من ١٠ إلى ١٥ % حتى نهاية ٢٠٢٥ | بنك أبو ظبي الأول- مصر وجهاز تنمية المشروعات يوقعان مذكرة تفاهم لنشر ريادة الأعمال | بعد أزمة بلبن.. مستثمر: القيادة السياسية تؤكد دعمها المتواصل للشركات الناشئة ورواد الأعمال | مؤسسة ڤودافون مصر تجمع أكثر من 50 مليون جنيه من خلال حملة “لحظة الأمل دي لحظة بالدنيا “لدعم كبرى المستشفيات لعلاج القلب والسرطان | QNB مصر يبدأ تشغيل فروعه في المراكز التجارية خلال عطلة نهاية الأسبوع | سايبر نايت – CyberKnight تفتتح مكتبًا إقليميًا في مصر ضمن خطط التوسع في الشرق الأوسط وأفريقيا | Majid Al Futtaim Celebrates Orphans’ Day by Welcoming Over 300 Children to Its Malls in Egypt | ماجد الفطيم تحتفل بيوم اليتيم باستضافة أكثر من 300 طفل في مراكز التسوق التابعة لها في مصر | For the Second Year in a Row, Mohamed Khaled El Assal and Karim El Assal’s Leadership Recognized in Forbes Middle East’s list of the “Most Impactful Real Estate Leaders” in 2025 | للعام الثاني .. محمد خالد العسال وكريم العسال ضمن قائمة فوربس “قادة الشركات العقارية الأكثر تأثيرًا في الشرق الأوسط” لعام 2025 | من الأحد القادم.. بنك مصر يوقف إصدار الشهادة السنوية ويخفض العائد 2% على الشهادات الادخارية | زووم Zoom تشارك في معرض EDGEx 2025 لتشكيل مستقبل التعليم بتقنيات الاتصال الحديثة | شركة جراندي صبور احدى شركات مجموعة الأهلي صبور العقارية توقع اتفاقية تعاون مع شركة سراة للاستثمار | البنك الأهلي المصري يعدل سعر العائد على الشهادات البلاتينية | بنك مصر يستثمر في صندوق “سي ثري كابيتال 1” أول صندوق في مصر للاستثمار الخاص في الأسهم العامة (PIPE) | MDP sets new standards for Sustainability across Africa with Mastercard Certification | شركة MDP تحصل على شارة الاستدامة للبطاقات الصديقة للبيئة من ماستركارد | Tanmeyah Partners with AMAN Holding to Launch New Digital Channels for Loan Disbursement and Payment Collection | شركة «تنميه» توقع بروتوكول تعاون مع شركة «أمان القابضة» لتوفير حلول وقنوات رقمية جديدة لصرف التمويلات وتحصيل المستحقات | بالصور.. وزير الاتصالات يفتتح المقر الإقليمى الجديد لشركة إنتلسيا Intelcia فى مصرمحمد الأعصر : توقعات بزيادة أسعار الوحدات العقارية من ١٠ إلى ١٥ % حتى نهاية ٢٠٢٥ | بنك أبو ظبي الأول- مصر وجهاز تنمية المشروعات يوقعان مذكرة تفاهم لنشر ريادة الأعمال | بعد أزمة بلبن.. مستثمر: القيادة السياسية تؤكد دعمها المتواصل للشركات الناشئة ورواد الأعمال | مؤسسة ڤودافون مصر تجمع أكثر من 50 مليون جنيه من خلال حملة “لحظة الأمل دي لحظة بالدنيا “لدعم كبرى المستشفيات لعلاج القلب والسرطان | QNB مصر يبدأ تشغيل فروعه في المراكز التجارية خلال عطلة نهاية الأسبوع | سايبر نايت – CyberKnight تفتتح مكتبًا إقليميًا في مصر ضمن خطط التوسع في الشرق الأوسط وأفريقيا | Majid Al Futtaim Celebrates Orphans’ Day by Welcoming Over 300 Children to Its Malls in Egypt | ماجد الفطيم تحتفل بيوم اليتيم باستضافة أكثر من 300 طفل في مراكز التسوق التابعة لها في مصر | For the Second Year in a Row, Mohamed Khaled El Assal and Karim El Assal’s Leadership Recognized in Forbes Middle East’s list of the “Most Impactful Real Estate Leaders” in 2025 | للعام الثاني .. محمد خالد العسال وكريم العسال ضمن قائمة فوربس “قادة الشركات العقارية الأكثر تأثيرًا في الشرق الأوسط” لعام 2025 | من الأحد القادم.. بنك مصر يوقف إصدار الشهادة السنوية ويخفض العائد 2% على الشهادات الادخارية | زووم Zoom تشارك في معرض EDGEx 2025 لتشكيل مستقبل التعليم بتقنيات الاتصال الحديثة | شركة جراندي صبور احدى شركات مجموعة الأهلي صبور العقارية توقع اتفاقية تعاون مع شركة سراة للاستثمار | البنك الأهلي المصري يعدل سعر العائد على الشهادات البلاتينية | بنك مصر يستثمر في صندوق “سي ثري كابيتال 1” أول صندوق في مصر للاستثمار الخاص في الأسهم العامة (PIPE) | MDP sets new standards for Sustainability across Africa with Mastercard Certification | شركة MDP تحصل على شارة الاستدامة للبطاقات الصديقة للبيئة من ماستركارد | Tanmeyah Partners with AMAN Holding to Launch New Digital Channels for Loan Disbursement and Payment Collection | شركة «تنميه» توقع بروتوكول تعاون مع شركة «أمان القابضة» لتوفير حلول وقنوات رقمية جديدة لصرف التمويلات وتحصيل المستحقات | بالصور.. وزير الاتصالات يفتتح المقر الإقليمى الجديد لشركة إنتلسيا Intelcia فى مصر