رؤية المنظومة كاملة: ترسيخ الذكاء الاصطناعي المسؤول في كل مستوى

نشأتُ شغوفًا بالطبيعة، لكن ليس بالطريقة التي يهتم بها معظم الأطفال. كنت أقضي ساعات في صيد الأسماك بالذبابة الاصطناعية، والتصوير المقرب لليرقات والفراشات، وقراءة الكتب عن وظائف أعضاء الحيوانات وسلوك الحشرات. لقد تعمقت في ذلك كثيرًا، حتى بمقاييس طفل.

ولم يكن اهتمامي مقتصرًا على الطبيعة في حد ذاتها؛ فقد كنت مفتونًا أيضًا بالروابط غير المرئية التي تجمع النظم البيئية. في أي نظام بيئي، تترتب على كل فعل آثار من الدرجة الثانية والثالثة. ولم تفارقني هذه النظرة قط؛ فهي الطريقة التي أتعامل بها مع عملي وأسرتي، والطريقة التي أرى الآن أن على المؤسسات أن تتعامل بها مع الذكاء الاصطناعي.

العثور على مساري

حصلت أولًا على شهادة في إدارة الحياة البرية، ثم عملت مع العاملين في قطع الأشجار في غابات ولاية فرجينيا الغربية. وسرعان ما أصبحت الغابات شغفًا لي، لكنني أدركت أن بناء مسيرة مهنية في هذا المجال يتطلب شهادة متخصصة في الغابات. لذلك التحقت بجامعة ولاية بنسلفانيا، حيث درست لدرجتي ماجستير مزدوجتين في إدارة الغابات وبحوث العمليات.

عرّفتني تلك الدراسات إلى الرياضيات واسعة النطاق، وأحببتها كثيرًا. كما فتحت أمامي مسارًا مختلفًا تمامًا نحو تطوير البرمجيات، ثم الأمن القومي، وصولًا في نهاية المطاف إلى الذكاء الاصطناعي والتحليلات.

عندما أنظر إلى الماضي، يبدو ذلك المسار مترابطًا بصورة لافتة، لكنه لم يكن يبدو كذلك وقتها. ومع كل منعطف، تعرفت إلى طرق جديدة في التفكير، وإلى أشخاص أسهموا في تشكيل الطريقة التي أردت أن أعمل وأقود بها.

كان أحد أكثرهم تأثيرًا شخصًا وظفني في بداية مسيرتي وأصبح صديقًا ومرشدًا عزيزًا. كانت لديه خبرة تتجاوز 50 عامًا، ومع ذلك ظل متواضعًا ولطيفًا على نحو استثنائي. وأسدى إلي نصيحة مهمة: افعل الصواب دائمًا، مهما كان الثمن، حتى لو اقتضى الأمر رفض عمل لأننا لسنا الأنسب له أو لأنه لا يتوافق مع قيمنا.

لقد شكلت رؤيتي له وهو يطبق هذه المبادئ ما صرت أبحث عنه في مسيرتي: عمل له معنى، وأشخاص يهتمون بالطريقة التي يُنجز بها. ووجدت الأمرين معًا.

صناعة القيمة على نطاق واسع

قبل التحاقي بمجموعة بوسطن الاستشارية، أنجزت أعمالًا تقنية كنت أعتز بها فعلًا، ثم شاهدتها تُوضع جانبًا فور الانتهاء منها. لكن تجربتي هنا كانت مختلفة؛ فالقدرة على تحويل التفكير الجيد إلى أثر حقيقي واسع النطاق أمر نادر.

فاجأني الأشخاص أيضًا. خضت 14 مقابلة، والتقيت بأشخاص يفوقونني ذكاءً بعشرة أضعاف، لكنهم كانوا متواضعين تمامًا، ومستعدين دائمًا لتقديم ملاحظات صريحة وصادقة، بلا غرور. والعثور على هذه الصفات أصعب مما قد يبدو.

أصبح الجمع بين العمق التقني والأثر الواقعي والاستعداد لتحدي أفكار بعضنا بعضًا بصدق بالغ الأهمية عندما بدأت أفكر في كيفية تحقيق مستوى أعلى من التأثير في مسيرتي المهنية.

الرحلة مع الذكاء الاصطناعي

عندما بدأت العمل على الذكاء الاصطناعي المسؤول في عامي 2014 و2015، لم يكن لدينا حتى اسم لهذا المجال. كنا مجرد مجموعة نتحدث عن تأثير علم البيانات في الأفراد. وما زلت أتذكر اللحظة التي اتضحت فيها الفكرة خلال نقاش مع فريقي: كانت الخوارزميات المستخدمة بالفعل في تطبيقات مثل توصيات الأخبار تشكل بهدوء الطريقة التي يرى بها ملايين الأشخاص العالم، ولم يكن أحد يتحدث عن ذلك.

اعتقدنا أن الأمر قد يصبح مشكلة حقيقية على المدى الطويل، فبدأنا البحث والكتابة عنه. وهذا ما نقلني من الجانب التقني إلى أسئلة الحوكمة والمخاطر.

ظل القلق من المخاطر الأوسع للذكاء الاصطناعي محصورًا لفترة طويلة بين المتخصصين. وطالما أن الشركات القليلة التي تبني هذه الأنظمة تفهم المخاطر وتتخذ خطوات لتخفيفها، بدا الوضع قابلًا للإدارة. لكن ظهور «تشات جي بي تي» غيّر كل شيء. فبين عشية وضحاها، انتقل الذكاء الاصطناعي من أداة مصممة خصيصًا بأيدي الخبراء إلى شيء يستطيع الجميع استخدامه في كل مكان. كانت تلك نقطة التحول؛ وأصبحت الإدارة المسؤولة للذكاء الاصطناعي تتطلب جهدًا من نوع مختلف تمامًا، ولا تزال كذلك.

أقصى منفعة وأدنى مخاطرة

في دوري المسؤول عن أخلاقيات الذكاء الاصطناعي، أجد أن هذا الجهد عملي أكثر مما يتصور البعض. أقضي وقتًا طويلًا في العمل إلى جانب قادة الأعمال والوظائف المختلفة على المنتجات التي نبنيها؛ فنوازن بين المخاطر والمنافع والتبعات التنظيمية، ونتأكد من وجود الحوكمة المناسبة.

لا يتمحور دوري حول اتخاذ القرارات في نهاية العملية بقدر ما يتمحور حول مساعدة الفرق على طرح الأسئلة الصحيحة منذ البداية. نعمل معًا على النظر في المنافع والمخاطر المحتملة، وتحسين طريقة استخدام الأداة، والتأكد من تضمين الضمانات والحوكمة الملائمتين فيها.

لكن الحوكمة لا تستطيع التوسع إذا اعتمدت على مجموعة صغيرة تتخذ كل قرار. فلا بد من بناء القدرة على الحكم السليم في المؤسسة بأكملها. ولهذا أعتز بالطريقة التي اتبعناها لبناء الإلمام بالذكاء الاصطناعي في مختلف أنحاء المؤسسة.

نتصور الأمر على هيئة سلّم. في درجته الأولى يستخدم الناس الذكاء الاصطناعي لتسريع أعمالهم اليومية. ومع تطوير مهاراتهم وإثبات قدرتهم على استخدامه بمسؤولية، ينتقلون إلى درجة أعلى، ويبدؤون بناء أدوات أكثر تعقيدًا، مثل مسارات العمل المؤتمتة أو التطبيقات المتقدمة التي كانت تتطلب فريقًا متخصصًا قبل وقت غير بعيد.

هذا التدرج مقصود. فإذا منحت شخصًا صلاحية الوصول إلى أداة قوية قبل أن يفهم كيفية استخدامها على نحو جيد، فسوف يواجه صعوبة ولن تتحقق القيمة المرجوة. أما إذا بنيت المهارات أولًا، ورسخت فهم المخاطر ووسائل الحد منها، ثم أتحت الوصول، فستترسخ القدرات.

هناك طريق متاح للجميع للصعود على هذا السلّم، بصرف النظر عن نقطة البداية أو الخلفية التقنية. والذكاء الاصطناعي المسؤول ليس وحدة تدريبية منفصلة تضاف لاحقًا، بل جزء متأصل في كل درجة. وتزداد أهمية هذا النهج حين نتأمل مقدار ما لا نزال نجهله عن آثاره بعيدة المدى.

مستقبل الذكاء الاصطناعي

أفكر كثيرًا في الطريقة التي سيغير بها الذكاء الاصطناعي الناس بهدوء. فالآثار الكبرى ليست بالضرورة تلك التي تتصدر العناوين، بل النتائج غير المباشرة من الدرجة الثانية والثالثة التي بدأنا للتو نلمحها.

لنتأمل مثالًا افتراضيًا: تستطيع شبكات النقل العام استخدام الذكاء الاصطناعي لتحسين جداول القطارات، من تحديد أوقات المغادرة وعدد العربات إلى اختيار البلدات التي تتوقف فيها. لكن ماذا لو حسّن النظام المسارات الأعلى استخدامًا، وألغى المسارات الأقل ارتيادًا لخفض التكاليف؟

قد يبدو الوفر المالي في اللحظة نفسها نتيجة جيدة. لكن ماذا لو أدت التغييرات إلى حرمان بعض المجتمعات من وسيلة النقل الوحيدة التي تصلها بأماكن عملها؟ سيصبح الوصول إلى العمل صعبًا جدًا على سكان تلك المناطق، أو قد يُضطرون إلى ركوب قطارات أبكر، بما يقلص الوقت الذي يقضونه مع أسرهم.

المشكلة لا تكون أبدًا بالبساطة التي تبدو عليها من السطح. وهذا تحديدًا نوع العواقب اللاحقة الذي تعلمت الانتباه إليه في الطبيعة؛ إذ إن تغيير جزء من منظومة ما يعيد بهدوء تشكيل كل ما يرتبط به.

لدي القلق نفسه بشأن كيفية تغيير الذكاء الاصطناعي لطريقة تعلمنا. فهناك مهام كثيرة يستطيع إنجازها بسهولة، لكنها في الوقت نفسه تساعد البشر على تنمية الحكم السليم وبناء المعرفة الأساسية التي تصبح مهمة لاحقًا في حياتهم المهنية. فماذا يحدث عندما يتولى الذكاء الاصطناعي أداء تلك المهام؟ إذا لم يضع الموظفون المبتدئون خطة عمل بأنفسهم قط، فكيف سيتعرفون بعد سنوات، عندما يصبحون مديرين، إلى انحراف فريقهم عن المسار الصحيح؟

وعلى نطاق أوسع، ماذا يحدث عندما يزداد اطمئنان الناس إلى أنظمة لا يفهمونها فهمًا كاملًا؟

في كثير من الحالات، الجواب الصادق هو أننا لا نعرف بعد. ولا أستطيع الادعاء بغير ذلك. بالنسبة إليّ، تعني القيادة الاعتراف بهذا الغموض وبناء مؤسسات تستطيع التعلم وهي تشق طريقها خلاله.

بناء قدرة أفضل على الحكم السليم

هكذا أفكر في نهاية المطاف في الذكاء الاصطناعي المسؤول. إنه ليس نقطة فحص أخيرة عند انتهاء التطوير، بل طريقة تفكير ينبغي أن تشكل كل قرار منذ البداية. والهدف هو المساعدة على طرح الأسئلة الصحيحة مبكرًا وباستمرار: ما الذي نحاول تحسينه؟ ومن قد يتأثر؟ وما العواقب غير المقصودة التي قد تظهر بمرور الوقت؟

وعندما يحتاج أمر ما إلى مزيد من التدقيق، فلا أتخذ القرار بمفردي. أعمل إلى جانب فريق واسع للحوكمة لتحسين النهج وتعزيزه بصورة جماعية. وأكثر مما نبني سياسة بعينها، فإن ما نبنيه فعلًا هو قدرة راسخة على الحكم السليم لدى المؤسسة وعملائها، وترسيخ التفكير المسؤول بعمق حتى يصبح غريزة لا مجرد تعليمات.

وفي وقت يتقدم فيه الذكاء الاصطناعي أسرع من فهمنا لتبعاته البشرية، أعتقد أن مسؤوليتنا الكبرى هي بناء مؤسسات قادرة على طرح أسئلة أفضل بينما يتكشف المستقبل.