كمبريدج ــ لطالما تَـصَـوَّرَ كُـتّـاب القصص الخيالية سيناريوهات حيث يخضع كل نشاط بشري للمراقبة من قِـبَـل سلطة مركزية خبيثة. لكن الآن، وعلى الرغم من كل تحذيراتهم، نجد أنفسنا ننطلق بسرعة متهورة نحو مستقبل بائس يستحق وصف جورج أورويل في كتابه بعنوان "1984". الواقع أن المهمة المتمثلة في تقييم الكيفية التي نحمي بها حقوقنا ــ كمستهلكين، وعمال، ومواطنين ــ لم تكن في أي وقت مضى أكثر إلحاحا مما أصبحت عليه الآن.
يتمثل أحد الاقتراحات المعقولة في الحد من براءات اختراع تكنولوجيات المراقبة لتثبيط تطويرها والإفراط في استخدامها. بافتراض ثبات كل العوامل الأخرى، قد يتسبب هذا في الدفع بعمليات تطوير التكنولوجيات المرتبطة بالذكاء الاصطناعي بعيدا عن تطبيقات المراقبة ــ على الأقل في الولايات المتحدة وغيرها من الاقتصادات المتقدمة، حيث تشكل سبل حماية براءات الاختراع أهمية كبيرة، وحيث سيكون أصحاب رؤوس الأموال المغامرة محجمين عن دعم الشركات التي تفتقر إلى حقوق الملكية الفكرية القوية. ولكن حتى في حال تبني مثل هذه التدابير المعقولة، فسوف يظل العالَـم منقسما بين البلدان التي تفرض ضمانات فَـعّـالة بشأن المراقبة وتلك التي لا تفرض مثل هذه الضمانات. لهذا، نحن في احتياج إلى النظر في الأساس الشرعي الذي تقوم عليه التجارة بين هذه الكتل الناشئة.
على مدار الأشهر الثمانية عشر الأخيرة سجلت قدرات الذكاء الاصطناعي قفزة كبيرة إلى الأمام، ومن غير المرجح أن تتباطأ وتيرة التطور. كان الإصدار العام لروبوت المحادثة ChatGPT في نوفمبر/تشرين الثاني 2022 طَـلقة الذكاء الاصطناعي التوليدي التي دَوَّت في مختلف أرجاء العالَـم. لكن الزيادة السريعة بذات المستوى في قدرات المراقبة التي تمتلكها الحكومات والشركات لم تكن أقل أهمية. ولأن الذكاء الاصطناعي التوليدي يتقن عمليات مضاهاة الأنماط، فقد جعل التعرف على الوجوه عملية دقيقة بدرجة مذهلة (وإن كان ذلك لا يخلو من بعض العيوب الكبرى). ومن الممكن استخدام ذات النهج العام للتمييز بين السلوك "الطيب" والسلوك المريب، والذي يستند ببساطة إلى الكيفية التي يتحرك بها الناس أو ينسجمون مع محيطهم.
تقودنا مثل هذه المراقبة من الناحية الفنية إلى "إنتاجية أعلى"، بمعنى أنها تزيد من قدرة أي سلطة على إجبار الناس على القيام بما يُـفـتَـرَضَ أن يقوموا به. إذا طبقنا هذا على شركة، فإنه يعني أداء الوظائف على المستوى الذي تعتبره الإدارة أعلى مستويات الإنتاجية. وفي حالة الحكومة، يعني فرض القانون أو ضمان الامتثال لمن هم على رأس السلطة.
من المؤسف أن ألف عام من الخبرة أثبتت أن زيادة الإنتاجية لا تؤدي بالضرورة إلى تحسين الرخاء المشترك. اليوم، تسمح عمليات المراقبة المدعومة بالذكاء الاصطناعي للمديرين المستبدين والقادة السياسيين الفاشيين بفرض قواعدهم بشكل أكثر فعالية. ولكن برغم أن الإنتاجية قد تزداد، فإن أغلب الناس لن يستفيدوا من هذا.
هذه ليست مجرد تكهنات. ذلك أن الشركات تستخدم بالفعل أساليب المراقبة المعززة بالذكاء الاصطناعي لمراقبة كل خطوة يقوم بها موظفوها. على سبيل المثال، تشترط شركة أمازون على عمال التوصيل استخدام تطبيق (Mentor) الذي يسجل قيادتهم ــ باسم السلامة كما يُـفـتَـرَض. ويزعم بعض السائقين أن تتبعهم يظل مستمرا حتى عندما لا يعملون.
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
في عموم الأمر، تشير تقديرات الشركة الاستشارية جارتنر إلى أن حصة كبار أصحاب الأعمال الذين يستخدمون الأدوات الرقمية لتتبع أعمالهم تضاعفت منذ اندلعت جائحة مرض فيروس كورونا 2019 (كوفيد-19)، لتصل إلى 60%، ومن المتوقع أن تبلغ 70% في غضون السنوات الثلاثة المقبلة. ورغم أن الأدلة المتاحة تشير إلى أن زيادة المراقبة ترتبط بتدني مستويات الرضا الوظيفي، فإن عددا كبيرا من أرباب العمل الذين يوافقون على أن مراقبة موظفيهم تثير "مخاوف أخلاقية" لم يتوقفوا عن مراقبتهم.
صحيح أن تكنولوجيا المراقبة ليست معادية للبشر بطبيعتها. بل إنها على العكس من ذلك، قد تعمل على تحسين شروط السلامة (مثلما يحدث عند المراقبة بحثا عن حالات إطلاق النار) أو شروط الراحة. ولكن يتعين علينا أن نعمل على إيجاد التوازن الصحيح بين هذه الفوائد والخصوصية، ويجب أن نبذل قصارى جهدنا لضمان عدم تحيز تكنولوجيات الذكاء الاصطناعي (على سبيل المثال، على أساس لون البشرة أو الجنس).
يتطلب التصدي لهذه القضايا فرض معايير دولية جديدة وتعزيز التعاون. يجب الإفصاح عن أي تطبيقات تستخدم الذكاء الاصطناعي لتتبع العمال أو معاقبتهم، بشفافية كاملة، في ما يتصل بكيفية تقديم التوصيات. فإذا فُـصِـلت من عملك لأن تطبيق الذكاء الاصطناعي اعتبر أن سلوكك مريب، يجب أن يكون بوسعك أن تطعن في مثل هذا القرار. مع ذلك، لأن العديد من أنظمة الذكاء الاصطناعي الجديدة أشبه بصندوق أسود لا يفهم محتواه حتى مطوروه، فإنها تحد تلقائيا من نطاق الإجراءات الواجبة.
وحتى في دولة مستقطبة مثل الولايات المتحدة، من المرجح أن يتحد الناس لصالح تقييد عمليات المراقبة. فالجميع من اليسار إلى اليمين يتشاركون في قلق أساسي بشأن الخضوع لمراقبة متواصلة، حتى وإن اختلفت مخاوف كل منهم. يصدق ذات القول على كل الديمقراطيات في العالَـم.
بيد أن الصين من غير المرجح أن تتعاون مع الجهود المبذولة لكبح جماح الاستخدام غير المقيد لأدوات المراقبة. فهي لم تكتف بزيادة المراقبة الداخلية منهجيا لقمع المعارضة ومراقبة السلوك الاجتماعي بدرجة غير مسبوقة؛ بل تقوم أيضا بتصدير تكنولوجيات المراقبة إلى آخرين. لقد أصبحت تكنولوجيا القهر أرخص في كل مكان وفي ذات الوقت.
في هذا العالَـم المتشعب، ربما يعمل أحد المعسكرات على تطوير معايير قوية تحكم متى وكيف يمكن استخدام المراقبة. سوف يظل الموضوع مثيرا للجدال، لكن التكنولوجيا ستكون إلى حد كبير تحت السيطرة الديمقراطية. في معسكر آخر، سوف يستخدم القادة المستبدون المراقبة المكثفة للإبقاء على شعوبهم تحت السيطرة. وسوف تنتشر الكاميرات في كل مكان، مما يسهل القدر الذي يراه النظام مناسبا من القَـمع.
يلوح في الأفق اختيار اقتصادي كبير لديمقراطيات العالَـم. هل ينبغي لنا أن نستمر في شراء السلع من البلدان حيث يخضع العمال لتكنولوجيات المراقبة التي ما كنا لنشجعها في بلداننا؟ هذا لابد وأن يُـفضي إلى تزايد عمليات المراقبة والقمع من قِـبَـل الأنظمة التي تسعى على نحو متزايد إلى تقويض ديمقراطياتنا. من الأفضل كثيرا، لتحقيق هدف الرخاء المشترك، أن ندعو إلى تحجيم تكنولوجيا المراقبة، على سبيل المثال من خلال اشتراط الامتناع عن قبول إدخال المنتجات غير الممتثلة بشكل كامل لضمانات المراقبة إلى أسواقنا.
في تسعينيات القرن العشرين، وأوائل العقد الأول من القرن الحادي والعشرين، منحت الولايات المتحدة وأوروبا الصين قدرة أكبر كثيرا على الوصول إلى أسواقهما على افتراض أن الصادرات من البلدان حيث الأجور منخفضة ستعود بالفائدة على المستهلكين المحليين وتساهم في التحول الديمقراطي عند المصدر. بدلا من ذلك، أصبحت الصين أكثر استبدادا، وعمل النمو المدعوم بالصادرات على تعزيز قوة نظامها الحاكم.
ينبغي لنا أن نكف عن الارتكان إلى أي أوهام حول العواقب المترتبة على السماح للبلدان التي تفرض سيطرة مُـحـكَـمة على عمالها بالوصول غير المقيد إلى الأسواق. هل تُـسـتَـخـدَم تكنولوجيات الذكاء الاصطناعي لمساعدة العمال، أو تجريدهم من كرامتهم؟ لا يجوز للسياسات التي ننتهجها في التعامل مع التجارة وبراءات الاختراع أن تتعامى عن مثل هذه التساؤلات.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
At the end of a year of domestic and international upheaval, Project Syndicate commentators share their favorite books from the past 12 months. Covering a wide array of genres and disciplines, this year’s picks provide fresh perspectives on the defining challenges of our time and how to confront them.
ask Project Syndicate contributors to select the books that resonated with them the most over the past year.
كمبريدج ــ لطالما تَـصَـوَّرَ كُـتّـاب القصص الخيالية سيناريوهات حيث يخضع كل نشاط بشري للمراقبة من قِـبَـل سلطة مركزية خبيثة. لكن الآن، وعلى الرغم من كل تحذيراتهم، نجد أنفسنا ننطلق بسرعة متهورة نحو مستقبل بائس يستحق وصف جورج أورويل في كتابه بعنوان "1984". الواقع أن المهمة المتمثلة في تقييم الكيفية التي نحمي بها حقوقنا ــ كمستهلكين، وعمال، ومواطنين ــ لم تكن في أي وقت مضى أكثر إلحاحا مما أصبحت عليه الآن.
يتمثل أحد الاقتراحات المعقولة في الحد من براءات اختراع تكنولوجيات المراقبة لتثبيط تطويرها والإفراط في استخدامها. بافتراض ثبات كل العوامل الأخرى، قد يتسبب هذا في الدفع بعمليات تطوير التكنولوجيات المرتبطة بالذكاء الاصطناعي بعيدا عن تطبيقات المراقبة ــ على الأقل في الولايات المتحدة وغيرها من الاقتصادات المتقدمة، حيث تشكل سبل حماية براءات الاختراع أهمية كبيرة، وحيث سيكون أصحاب رؤوس الأموال المغامرة محجمين عن دعم الشركات التي تفتقر إلى حقوق الملكية الفكرية القوية. ولكن حتى في حال تبني مثل هذه التدابير المعقولة، فسوف يظل العالَـم منقسما بين البلدان التي تفرض ضمانات فَـعّـالة بشأن المراقبة وتلك التي لا تفرض مثل هذه الضمانات. لهذا، نحن في احتياج إلى النظر في الأساس الشرعي الذي تقوم عليه التجارة بين هذه الكتل الناشئة.
على مدار الأشهر الثمانية عشر الأخيرة سجلت قدرات الذكاء الاصطناعي قفزة كبيرة إلى الأمام، ومن غير المرجح أن تتباطأ وتيرة التطور. كان الإصدار العام لروبوت المحادثة ChatGPT في نوفمبر/تشرين الثاني 2022 طَـلقة الذكاء الاصطناعي التوليدي التي دَوَّت في مختلف أرجاء العالَـم. لكن الزيادة السريعة بذات المستوى في قدرات المراقبة التي تمتلكها الحكومات والشركات لم تكن أقل أهمية. ولأن الذكاء الاصطناعي التوليدي يتقن عمليات مضاهاة الأنماط، فقد جعل التعرف على الوجوه عملية دقيقة بدرجة مذهلة (وإن كان ذلك لا يخلو من بعض العيوب الكبرى). ومن الممكن استخدام ذات النهج العام للتمييز بين السلوك "الطيب" والسلوك المريب، والذي يستند ببساطة إلى الكيفية التي يتحرك بها الناس أو ينسجمون مع محيطهم.
تقودنا مثل هذه المراقبة من الناحية الفنية إلى "إنتاجية أعلى"، بمعنى أنها تزيد من قدرة أي سلطة على إجبار الناس على القيام بما يُـفـتَـرَضَ أن يقوموا به. إذا طبقنا هذا على شركة، فإنه يعني أداء الوظائف على المستوى الذي تعتبره الإدارة أعلى مستويات الإنتاجية. وفي حالة الحكومة، يعني فرض القانون أو ضمان الامتثال لمن هم على رأس السلطة.
من المؤسف أن ألف عام من الخبرة أثبتت أن زيادة الإنتاجية لا تؤدي بالضرورة إلى تحسين الرخاء المشترك. اليوم، تسمح عمليات المراقبة المدعومة بالذكاء الاصطناعي للمديرين المستبدين والقادة السياسيين الفاشيين بفرض قواعدهم بشكل أكثر فعالية. ولكن برغم أن الإنتاجية قد تزداد، فإن أغلب الناس لن يستفيدوا من هذا.
هذه ليست مجرد تكهنات. ذلك أن الشركات تستخدم بالفعل أساليب المراقبة المعززة بالذكاء الاصطناعي لمراقبة كل خطوة يقوم بها موظفوها. على سبيل المثال، تشترط شركة أمازون على عمال التوصيل استخدام تطبيق (Mentor) الذي يسجل قيادتهم ــ باسم السلامة كما يُـفـتَـرَض. ويزعم بعض السائقين أن تتبعهم يظل مستمرا حتى عندما لا يعملون.
HOLIDAY SALE: PS for less than $0.7 per week
At a time when democracy is under threat, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided. Subscribe now and save $50 on a new subscription.
Subscribe Now
في عموم الأمر، تشير تقديرات الشركة الاستشارية جارتنر إلى أن حصة كبار أصحاب الأعمال الذين يستخدمون الأدوات الرقمية لتتبع أعمالهم تضاعفت منذ اندلعت جائحة مرض فيروس كورونا 2019 (كوفيد-19)، لتصل إلى 60%، ومن المتوقع أن تبلغ 70% في غضون السنوات الثلاثة المقبلة. ورغم أن الأدلة المتاحة تشير إلى أن زيادة المراقبة ترتبط بتدني مستويات الرضا الوظيفي، فإن عددا كبيرا من أرباب العمل الذين يوافقون على أن مراقبة موظفيهم تثير "مخاوف أخلاقية" لم يتوقفوا عن مراقبتهم.
صحيح أن تكنولوجيا المراقبة ليست معادية للبشر بطبيعتها. بل إنها على العكس من ذلك، قد تعمل على تحسين شروط السلامة (مثلما يحدث عند المراقبة بحثا عن حالات إطلاق النار) أو شروط الراحة. ولكن يتعين علينا أن نعمل على إيجاد التوازن الصحيح بين هذه الفوائد والخصوصية، ويجب أن نبذل قصارى جهدنا لضمان عدم تحيز تكنولوجيات الذكاء الاصطناعي (على سبيل المثال، على أساس لون البشرة أو الجنس).
يتطلب التصدي لهذه القضايا فرض معايير دولية جديدة وتعزيز التعاون. يجب الإفصاح عن أي تطبيقات تستخدم الذكاء الاصطناعي لتتبع العمال أو معاقبتهم، بشفافية كاملة، في ما يتصل بكيفية تقديم التوصيات. فإذا فُـصِـلت من عملك لأن تطبيق الذكاء الاصطناعي اعتبر أن سلوكك مريب، يجب أن يكون بوسعك أن تطعن في مثل هذا القرار. مع ذلك، لأن العديد من أنظمة الذكاء الاصطناعي الجديدة أشبه بصندوق أسود لا يفهم محتواه حتى مطوروه، فإنها تحد تلقائيا من نطاق الإجراءات الواجبة.
وحتى في دولة مستقطبة مثل الولايات المتحدة، من المرجح أن يتحد الناس لصالح تقييد عمليات المراقبة. فالجميع من اليسار إلى اليمين يتشاركون في قلق أساسي بشأن الخضوع لمراقبة متواصلة، حتى وإن اختلفت مخاوف كل منهم. يصدق ذات القول على كل الديمقراطيات في العالَـم.
بيد أن الصين من غير المرجح أن تتعاون مع الجهود المبذولة لكبح جماح الاستخدام غير المقيد لأدوات المراقبة. فهي لم تكتف بزيادة المراقبة الداخلية منهجيا لقمع المعارضة ومراقبة السلوك الاجتماعي بدرجة غير مسبوقة؛ بل تقوم أيضا بتصدير تكنولوجيات المراقبة إلى آخرين. لقد أصبحت تكنولوجيا القهر أرخص في كل مكان وفي ذات الوقت.
في هذا العالَـم المتشعب، ربما يعمل أحد المعسكرات على تطوير معايير قوية تحكم متى وكيف يمكن استخدام المراقبة. سوف يظل الموضوع مثيرا للجدال، لكن التكنولوجيا ستكون إلى حد كبير تحت السيطرة الديمقراطية. في معسكر آخر، سوف يستخدم القادة المستبدون المراقبة المكثفة للإبقاء على شعوبهم تحت السيطرة. وسوف تنتشر الكاميرات في كل مكان، مما يسهل القدر الذي يراه النظام مناسبا من القَـمع.
يلوح في الأفق اختيار اقتصادي كبير لديمقراطيات العالَـم. هل ينبغي لنا أن نستمر في شراء السلع من البلدان حيث يخضع العمال لتكنولوجيات المراقبة التي ما كنا لنشجعها في بلداننا؟ هذا لابد وأن يُـفضي إلى تزايد عمليات المراقبة والقمع من قِـبَـل الأنظمة التي تسعى على نحو متزايد إلى تقويض ديمقراطياتنا. من الأفضل كثيرا، لتحقيق هدف الرخاء المشترك، أن ندعو إلى تحجيم تكنولوجيا المراقبة، على سبيل المثال من خلال اشتراط الامتناع عن قبول إدخال المنتجات غير الممتثلة بشكل كامل لضمانات المراقبة إلى أسواقنا.
في تسعينيات القرن العشرين، وأوائل العقد الأول من القرن الحادي والعشرين، منحت الولايات المتحدة وأوروبا الصين قدرة أكبر كثيرا على الوصول إلى أسواقهما على افتراض أن الصادرات من البلدان حيث الأجور منخفضة ستعود بالفائدة على المستهلكين المحليين وتساهم في التحول الديمقراطي عند المصدر. بدلا من ذلك، أصبحت الصين أكثر استبدادا، وعمل النمو المدعوم بالصادرات على تعزيز قوة نظامها الحاكم.
ينبغي لنا أن نكف عن الارتكان إلى أي أوهام حول العواقب المترتبة على السماح للبلدان التي تفرض سيطرة مُـحـكَـمة على عمالها بالوصول غير المقيد إلى الأسواق. هل تُـسـتَـخـدَم تكنولوجيات الذكاء الاصطناعي لمساعدة العمال، أو تجريدهم من كرامتهم؟ لا يجوز للسياسات التي ننتهجها في التعامل مع التجارة وبراءات الاختراع أن تتعامى عن مثل هذه التساؤلات.
ترجمة: مايسة كامل Translated by: Maysa Kamel