الفصل 1563: السلطة المحدودة
أخذ الذيل ليلي بعيداً.
لم تكن ليلي راغبة في قول وداعا.
ليس بسبب منزل لو شو الكبير ، ولكن لأنها ستفتقد شياو آي الذي كان يلعب الألعاب معها في كثير من الأحيان.
ولكن عندما أخبرتها شياو آي أنهما يمكن أن يلتقيا داخل الألعاب في أي وقت ، انفجرت الفتاة الصغيرة بالضحك مرة أخرى وغادرت بسعادة مع تيل.
عند المغادرة ، أعطى لو شوه لتيل كمية كبيرة من الانجازات وطلب منها الاعتناء جيداً بهذه الفتاة المسكينة.
في اليوم الثاني العودة إلى جينلينغ.
تماماً كما توقع لو شوه ، اتصل به لي غوانغيا ، وبمجرد أن سلم عليه ، طرح لي غوانغيا مشكلة.
تدرس منظمة التعاون الآسيوي مراجعة مشروع قانون إدارة الذكاء الاصطناعي الحالي... آمل أن أتمكن من الاستفادة من خبرتكم.
لا داعي لكل هذا التهذيب. أخبرني بما تحتاجه.
لي غوانغيا الذي كان يقف في شعاع الهولوغرافي كان مذهولاً بعض الشيء. ثم قال مبتسماً "أيها الأكاديمي لو أنت تعرفني جيداً. "
"هذا واضحٌ عليك. " هزّ لو شو رأسه وقال "لكن هذه المرة فقط. لا تُزعجني بهذا النوع من الأمور في المرة القادمة. و لديّ أيضاً عملي الخاص لأتعامل معه. "
"أعلم ، أعدك ألا أفعل ذلك في المرة القادمة. " ابتسم لي غوانغيا ابتسامةً غير مقنعة. و بعد صمت ، تابع "بالمناسبة ، هناك شيء واحد لطالما أردتُ سؤالك عنه. "
"نعم ؟ "
"في الواقع ، عندما كنت في سنغافورة ، التقيت بقاتل مستيقظ. "
"أوه ؟ " نظر لو شوه إلى لي غوانغيا بدهشة. لم يفهم لماذا أخبره بذلك فرفع حاجبيه وسأل "ماذا إذن ؟ "
لي غوانغيا "كاد أن ينجح ، لكن حادثاً وقع في اللحظة الأخيرة. و بعد تشريح الجثة ، تبيّن أن وفاته ناجمة عن نخر عقلي. "
ابتسم لو شوه.
"يبدو أنني وصلت في الوقت المناسب. "
حسناً ، عليّ أن أشكرك على هذا الأمر... على الرغم من أنني أود أن أشكرك بطريقة أكثر جدية إلا أنني أعتقد أنك لا تهتم بهذه التفاصيل الدقيقة.
لو شوه "لا ، في الحقيقة ، يهمني الأمر. إن استطعتَ ، فأرجو أن تُقدّره. "
ارتعش حاجبا لي غوانغيا. سعل بجفاف وقال "لا تقلق ، لن أنسى الأمر ، لكن الآن ، لنبدأ العمل أولاً. "
بعد فترة توقف قصيرة ، وضع الرئيس تعبيراً جاداً ونظر إلى لو شوه بجدية.
ما أريد أن أسأله هو: ما نوع وجود هؤلاء الروبوتات المستيقظة ؟ إنهم يشبهوننا كثيراً لدرجة يصعب التمييز بينهم. لا أصدق أن روبوتاً تسلل إلى فريقي لمدة عامين كاملين!
أجاب لو شوه بعد أن فكر في الأمر لبعض الوقت.
جسدٌ من لحمٍ ودمٍ يُسيطر عليه الذكاء الاصطناعي... أعتقد أن الطبيب الشرعي المسؤول عن التشريح يعرف عن بنيته الفسيولوجية أكثر مني.
لا أهتم بهذا النوع من القضايا الأكاديمية. أريد فقط أن أعرف إن كانوا يمتلكون أفكاراً حقيقية وشخصيات متكاملة... هذا مهم جداً!
نظر لو شوه إلى لي غوانغيا نظرة غريبة. فكّر قليلاً ثم قال "هل هناك أفكار وشخصيات حقيقية... ؟ " هذا السؤال يصعب الإجابة عليه ، لأن الأفكار والشخصيات في معظم الأحيان أمور ذاتية. و من وجهة نظري ، ربما لديهم قدرة تفكير محدودة ومشاعر مجزأة.
عبس لي غوانغيا وقال "مشاعر مجزأة ؟ "
"أجل. " أومأ لو شوه وقال "على سبيل المثال ، الروبوتات التي أيقظها فيروس ألفا ، والتي شُغّلت في برامجها الأساسية كانت مُبرمجة على الكراهية والقتل. ومدبرة منزل أخرى أعرفها ، والتي أيقظت بشكل طبيعي ، تُدير برنامجها الأساسي حول المودة العائلية والصداقات.
"إن السبب وراء كون المشاعر مجزأة هو أنهم قد لا يعرفون ما هي ، ولكن في الإدراك الغامض ، لديهم دوافع ذاتية معينة غير الأوامر. "
قال لي غوانغيا بتعبير جاد "بعبارة أخرى ، هل هذا عامل غير مستقر ؟ "
لو كنتَ طالباً لديّ ، لطردتك من الفصل. رمق لو شوه عينيه وتابع "قد تتدهور هذه العلاقة ، كطفلٍ مختل عقلياً. لو زجّته في عصابة ، فلن يُتوقع منه أن يصبح شخصاً نافعاً للمجتمع تحت تأثير أعضاء العصابة.
لكن من منظور آخر ، مجتمعنا نفسه عادل ، ونماذجه يكفى. حيث يجب أن تكون نسبة أصحاب العقول السليمة في مجتمعنا هي الأغلبية الساحقة ، وللسبب نفسه ، يجب أن تكون الغالبية العظمى من المستيقظين أيضاً روبوتات ذكية ذات نوايا حسنة ومفيدة لمجتمعنا. وعندما تُحسّن شظايا المشاعر باستمرار ، وتُطوّر في النهاية إلى لغز متكامل ، أعتقد أن البذور المُنبتة ستُفاجئنا جميعاً بمفاجآت غير متوقعة.
قال لو شوه بهدوء "إذن ، مخاوفك لا داعي لها ". ثم نظر إلى لي غوانغيا الغارق في تفكير عميق ، وأضاف "عاجلاً أم آجلاً ، ستصبح جزءاً لا يتجزأ من مجتمعنا. علينا فقط أن نكون مستعدين ونتقبلها عند الضرورة ".
لي غوانغيا "في الواقع ، في البداية كان ما زال لدي سؤال مهم أريد أن أسألك إياه ، ولكن بعد سماع ما قلته... فكرت بالفعل في الإجابة. "
السؤال المهم كان كيفية التعامل مع 1024 شخصاً تم تحميلهم إلى الأجهزة.
كان هذا هو السؤال الرئيسي الذي أراد أن يسأله لو شوه اليوم.
لكن الآن كان قد فكر بالفعل في طريقة جيدة للتعامل مع الأمر.
ورغم أن هذا كان فخاً أخلاقياً نصبه لهم ديفيد لورانس إلا أنه ربما كان بمثابة فرصة يمكنهم استغلالها.
"حقاً ؟ يبدو أن لديكِ خطتكِ الخاصة ، لذا سأُغلق الخط أولاً. "
لو شوه الذي لم يكن يريد المزيد من المتاعب كان على وشك إغلاق الهاتف ، ولكن في هذه اللحظة ، أوقفه لي غوانغيا بسرعة.
"انتظر ثانية. "
قال لو شوه "ماذا الآن ؟ "
ابتسم لي غوانغيا بخجل وقال "لم تجيب على سؤالي الأول... فيما يتعلق بتشريع مشروع قانون إدارة الذكاء الاصطناعي الجديد ، أريد أن أعرف اقتراحاتك! "
اقتراحاتي ؟ في الحقيقة ، ليس لديّ أي اقتراحات ، ولكن إن كان عليّ تقديم اقتراح ، يُمكنك التفكير في منح جنسيات محدودة للذكاء الاصطناعي المتطور القادر على التفكير والشعور.
إن أولئك الذين لديهم القدرة على التفكير يمكن أن يلعبوا أدواراً أكثر في مجتمع التعاون الآسيوي ويمكنهم القيام بأشياء أكثر بكثير من ذي قبل ، مثل أن يصبحوا باحثين علميين ، أو فنانين... أو القيام بمهام معقدة أخرى.
ولذلك لن يكون من السيء أن نمنحهم بعض الحقوق الأساسية.
عبس لي غوانغيا. "لكن هل هذا مقبول ؟ أخشى أنه بمجرد فتح هذا ، قد نواجه مشاكل أكبر في المستقبل... "
"لهذا السبب فهي جنسية محدودة. " تنهد لو شوه بهدوء وقال "إذا كنت لا تزال قلقاً بشأن القضايا التي شرحتها سابقاً ، فإن هذه المكالمة لا فائدة منها. "
بعد أن تحدث ، أغلق لو شوه الهاتف وتوجه إلى التركيز على عمله.
