স্বচ্ছতা এবং জনগণের আস্থার সাথে সরকারে অটোমেশন থাকতে পারে? | ফেডারেল নিউজ নেটওয়ার্ক

টেরি গারটন আপনি Reg রিভিউতে একটি নতুন নিবন্ধ পেয়েছেন যা সরকারকে আরও দক্ষ করার জন্য AI ব্যবহার করার বিষয়ে কথা বলে। কিন্তু আপনি আসলে বলছেন যে এটি সবসময় একটি ভাল ধারণা নাও হতে পারে। আমাদের বলুন কেন আপনি মনে করেন যে জনসাধারণের সিদ্ধান্ত গ্রহণ এবং AI ব্যবহারের ক্ষেত্রে দক্ষতা সবসময় সঠিক উত্তর নয়।

মাইকেল লিভারমোর এটি একটি চতুর প্রস্তাব কারণ নিঃসন্দেহে সরকারী দক্ষতার অনেক সুবিধা রয়েছে। এটি সাধারণত একটি ভাল জিনিস এবং যদি আমরা নতুন সরঞ্জাম, নতুন অ্যালগরিদমিক পদ্ধতি, নতুন গণনামূলক পদ্ধতি, ভবিষ্যদ্বাণীমূলক অ্যালগরিদমগুলি ব্যবহার করতে পারি, আপনার কাছে আরও ভাল দক্ষতা অর্জনের জন্য কী আছে, এটি সাধারণত একটি ভাল জিনিস হবে। সেই অংশে আমি যে উদ্বেগ প্রকাশ করেছিলাম তা হল, আমরা যখন সরকারী সিদ্ধান্ত গ্রহণে ধাপে ধাপে এই সরঞ্জামগুলিকে একীভূত করতে শুরু করি, সম্ভবত প্রতিটি মুহুর্তে একটু বাড়তি দক্ষতা অর্জন করছি, আমরা এমন একটি সীমা অতিক্রম করতে পারি যেখানে আমরা এক অর্থে সরকারকে অত্যন্ত দক্ষ করে তুলেছি এবং আমরা অনেক বেশি মানবিক ঘর্ষণ দূর করেছি যা আসলে একটি কার্যকরী আইন মেনে চলার জন্য প্রয়োজনীয়, উদারনৈতিক সমাজে বসবাস করতে চাই যা আমরা চাই।

টেরি গারটন আমরা যেমন এআই সম্পর্কে চিন্তা করি, লোকেরা বেশিরভাগই পক্ষপাত নিয়ে চিন্তা করে, যে সিস্টেমগুলি বিদ্যমান কাঠামোগুলিকে প্রাতিষ্ঠানিক করতে পারে যা হয়তো সবার জন্য অপ্টিমাইজ করা হয় না। কিন্তু আপনি বলছেন ঘর্ষণ হ্রাস আসলে একটি বড় সমস্যা। আমাদের সেই প্রক্রিয়া বুঝতে সাহায্য করুন।

মাইকেল লিভারমোর সঠিক। আমি কি বলব যে এটি একটি ভিন্ন শৈলী সমস্যা। আমি জানি না যে আমি এক ধরনের শ্রেণীবিন্যাস তৈরি করব এবং বলব যে আমি যে ধরণের ঘর্ষণ সম্পর্কে কথা বলছি তার চেয়ে পক্ষপাত কম গুরুত্বপূর্ণ, যেমন সত্যিই ভাল ঘর্ষণ যা আমাদের চেক এবং ব্যালেন্সের সিস্টেমের জন্য মৌলিক, তাই না? প্রতিষ্ঠাতারা যখন ধারণা নিয়ে এসেছিলেন, তখন তারা সিস্টেমটি খুব ভালভাবে চালাতে চাননি। এক অর্থে, তারা জটিল কাঠামো তৈরি করেছে, একটি দ্বিকক্ষ বিশিষ্ট আইনসভা, একটি পৃথক রাষ্ট্রপতি, একটি স্বাধীন বিচার বিভাগ, এই সমস্ত কিছু প্রক্রিয়াটিকে ধীর করার উদ্দেশ্যে ছিল। আর তাই যদি আমরা কম্পিউটার ব্যবহার করি আবার গতি বাড়ানোর জন্য, আমরা সেই খুব সাবধানে নির্মিত কাঠামোকে দুর্বল করে দেব। এখন, পক্ষপাত সম্পর্কে, এটি একেবারে একটি সমস্যা। এখন, আমি ব্যক্তিগতভাবে মনে করি, অ্যালগরিদমগুলি পক্ষপাত দূর করার জন্য একটি খুব আকর্ষণীয় এবং সম্ভাব্য কার্যকর পদ্ধতি কারণ আমরা জানি যে মানব প্রতিষ্ঠানে অনেক পক্ষপাত রয়েছে। সুতরাং উদ্বেগ, যা একটি খুব বাস্তব উদ্বেগ, আমরা সেই পক্ষপাত তৈরি করতে পারি এবং পরিবর্তনকে এগিয়ে যেতে আরও কঠিন করে তুলতে পারি। কিন্তু এই বিষয়ে আমার গ্রহণ হল যে আমরা যদি এই অ্যালগরিদমগুলিকে সঠিকভাবে ডিজাইন করি তবে আমরা আসলে পক্ষপাতটি বের করে আনতে পারি। আমরা আসলে এটা দেখতে পারেন. এটি আরও সহজে স্পষ্ট হয়ে ওঠে এবং তাই সমাধান করা সহজ। এবং আমরা আসলে প্রবেশ করতে পারি এবং অ্যালগরিদম পরিবর্তন করতে পারি এমনভাবে পক্ষপাতের সমাধান করতে যা আসলে মানবিক প্রতিষ্ঠানের সাথে খুব কঠিন, যেমন আপনি কিছু বিচারকের মাথায় ঢুকতে পারবেন না এবং কিছু নিউরনকে টুইক করতে পারবেন না এবং তাদের নিজেরা পক্ষপাতমুক্ত করতে পারবেন, মানুষ কীভাবে কাজ করে তা ঠিক নয়, যেখানে অন্তত তত্ত্বগতভাবে, আপনি অ্যালগরিদম দিয়ে এটি করতে পারেন। তাই আমি এটিকে একটি বাস্তব উদ্বেগ এবং এমন কিছু হিসাবে দেখি যা আমাদের খুব সতর্ক থাকতে হবে। অ্যালগরিদমগুলির সাথে সম্পর্কিত ঝুঁকি রয়েছে, তবে পক্ষপাতের ক্ষেত্রে সম্ভাব্য কিছু উল্টোদিকেও রয়েছে৷ অন্যদিকে, ঘর্ষণ কমানোর প্রশ্নে, এবং সম্ভবত এটি সবসময় একটি ভাল জিনিস নয়। সমস্যা হল যে অ্যালগরিদমগুলি, যখন তারা ভাল কাজ করে, তখন ঘর্ষণ কমিয়ে দেয়। যে ধারণা. সুতরাং আপনি সেই সমস্যা থেকে বেরিয়ে আসার উপায় খুঁজে পাচ্ছেন না কারণ লক্ষ্যটি দক্ষতা উন্নত করা। এবং বিন্দু হল যে আমরা যদি করতে পারি, অন্তত যুক্তি হল যে, যদি আমরা দক্ষতার খুব বেশি উন্নতি করি, তবে এটি আসলে আমাদের মানবিক প্রতিষ্ঠানগুলিকে দুর্বল করে দেবে যেগুলি এখন পর্যন্ত সত্যিই আমাদের ভাল পরিবেশন করেছে।

টেরি গারটন এর একটি বাস্তব উদাহরণ তাকান. কয়েক সপ্তাহ আগে, আমরা আসলে এই শোতে আলবেনিয়ার সরকারে ক্রয় কার্য পরিচালনার জন্য একটি অ্যালগরিদম স্থাপনের বিষয়টি কভার করেছি। আমরা ভেবেছিলাম এটি একটি দুর্দান্ত গল্প, কিন্তু আপনি সত্যিই এটি একটি সতর্কতামূলক গল্প হিসাবে উপস্থাপন করেছেন। সুতরাং সেখানে কী ঘটেছিল এবং কীভাবে এটি দক্ষতা এবং ঘর্ষণের মধ্যে এই উত্তেজনাকে প্রতিফলিত করে তা আমাদের বলুন।

মাইকেল লিভারমোর দারুণ। একভাবে, এটি আমার জন্য একটি কঠিন সমস্যা, তাই আমি মনে করি এটি অন্বেষণ করা ভাল কারণ আমরা এখানে যে বিষয়ে কথা বলছি তা হল আলবেনিয়ান সরকার ক্রয় প্রক্রিয়ায় দুর্নীতির বিষয়ে উদ্বিগ্ন, প্রতিটি সরকার ক্রয় প্রক্রিয়ায় দুর্নীতির বিষয়ে উদ্বিগ্ন। এই কারণেই আমাদের কাছে জটিল ক্রয় ব্যবস্থা রয়েছে যা নিয়ন্ত্রণ করে সরকার কীভাবে তার অর্থ ব্যয় করে। আমরা দুর্নীতি নিয়ে উদ্বিগ্ন এবং তারা বলছে, দেখুন, আমরা হয়তো অনেক মানুষকে দুর্নীতি থেকে বের করে আনতে পারব এবং এতে সংঘর্ষের সম্ভাবনা কমে যাবে। আমি দুঃখিত, কিন্তু দুর্নীতির সম্ভাবনা আছে. পৃষ্ঠে এটি একটি ভাল জিনিস মত মনে হয়. পৃষ্ঠে এটি একটি ভাল ধারণার মতো মনে হচ্ছে এবং এটি ঘটতে পারে। এবং আমি আলবেনিয়ান সরকারের সমালোচনা শুনতে চাই না কারণ আমি তাদের সিস্টেম জানি না এবং তারা বুদ্ধিমান পছন্দ করতে পারে। কিন্তু অন্য অনেক ধরনের প্রেক্ষাপটে এটিকে বৃহৎ পরিসরে মোতায়েন করা উচিত কিনা সেই প্রশ্নটি আমাদের সাবধানে ভাবতে হবে। তাই কেনার ক্ষেত্রে, আমরা এটিকে অ্যালগরিদমিক সরঞ্জামগুলির জন্য একটি খুব ভাল রেফারেন্স হিসাবে ভাবতে পারি। এবং এটি আসলে অ্যালগরিদমিক সরঞ্জামগুলির জন্য অনেক উপায়ে একটি খুব ভাল রেফারেন্স। হয়তো এমন কিছু ন্যায্য নীতি আছে যা আমরা প্রয়োগ করতে চাই। এটি একটি মোটামুটি প্রযুক্তিগত প্রশ্ন যা স্পষ্টভাবে মূল্য বিচার ইত্যাদি জড়িত করে না। এটি এমন একটি এলাকা যা আমরা জানি যে মানুষের ব্যর্থতার ঝুঁকি রয়েছে। বিশেষ করে, দুর্নীতি, স্বজনপ্রীতি, ইত্যাদি। তাই এটি আসলে এই সরঞ্জামগুলির জন্য একটি খুব ভাল রেফারেন্স। এখন যেটা বলা হচ্ছে, আমি এক ধরনের উদ্বেগ হিসাবে যা উত্থাপন করছি তা হল, আপনি জানেন, এমনকি একটি আপাতদৃষ্টিতে নিরপেক্ষ এবং অরাজনৈতিক জিনিস সংগ্রহের মতো আসলে এমন একটি ক্ষেত্র হতে পারে যেখানে কিছু ঘর্ষণ এবং কিছু রাজনীতি কিছু অর্থে থাকতে হবে। সুতরাং একদিকে আপনি জানেন, যদি হ্যাঁ, আমরা স্বজনপ্রীতি এবং দুর্নীতি কমাতে পারি, এবং এটি একটি ভাল জিনিস হবে। অন্যদিকে, আপনি জানেন, কখনও কখনও ক্রয় প্রক্রিয়া একটি জটিল রাজনৈতিক দর কষাকষির অংশ হিসাবে ব্যবহার করা যেতে পারে যেখানে সরকারের বিরোধীদের প্রচার করা হচ্ছে বা যেখানে সমাজের বিভিন্ন বিরোধপূর্ণ গোষ্ঠী একটি ব্যবস্থা করতে একত্রিত হয় যাতে সরকার অর্থ ব্যয় করে। এটি একটি বহুত্ববাদী এবং বৈচিত্র্যময় সমাজের মতো সমাজকে এমনভাবে কাজ করার অনুমতি দেয় যা ক্রয় প্রক্রিয়াটি সম্পূর্ণরূপে নিরপেক্ষ স্বয়ংক্রিয় জিনিস হয়ে উঠলে ভেঙে যেতে পারে, যেখানে আপনার কম্পিউটারে এমন সিদ্ধান্ত নেওয়ার ব্যবস্থা রয়েছে যা এই ধরনের রাজনৈতিক বা সাংস্কৃতিক বা সমাজতাত্ত্বিক বাস্তবতার প্রতি সংবেদনশীল নয়। এবং তাই আবার, এর মানে এই নয় যে, আপনি জানেন, এই টুলটি বাস্তবায়ন করা অগত্যা একটি খারাপ সিদ্ধান্ত ছিল, কিন্তু এটি এতটা শুষ্ক নয় যে, দুর্নীতি খারাপ, অ্যালগরিদমটি ভাল, আসুন দক্ষতা বাড়াই, আসুন দুর্নীতি থেকে পরিত্রাণ পাই এবং এটিকে কম্পিউটারে পরিণত করি। এটি বেশ বহুমুখী এবং জটিল জিনিস, এমনকি সংগ্রহের মতো একটি এলাকায় যেখানে আপনি এই সরঞ্জামগুলি সম্পর্কে চিন্তা করতে পারেন, এটি কাটা এবং শুকনো ধরণের। তাদের ব্যবহার করা যাক.

টেরি গারটন আমি মাইকেল লিভারমোরের সাথে কথা বলছি। তিনি আইনের অধ্যাপক এবং ভার্জিনিয়া বিশ্ববিদ্যালয়ের আইন প্রযুক্তি কেন্দ্রের সহ-পরিচালক। এই ধরনের সিদ্ধান্তের প্রতিযোগী স্বার্থের এটি সত্যিই একটি দরকারী বিবরণ। আমি নিবন্ধে এটিও লক্ষ্য করতে চাই যে আপনি দুটি নতুন শব্দ তৈরি করেছেন, অ্যালগোক্রেসি এবং অ্যালগোক্রেসি। তাই তারা বলা কঠিন, কিন্তু আমি মনে করি তারা সত্যিই গুরুত্বপূর্ণ। এই দুটি শব্দের সূক্ষ্মতা সম্পর্কে আমার সাথে কথা বলুন।

মাইকেল লিভারমোর সুতরাং, আসলে, আলগোক্র্যাসি গত কয়েক বছর ধরে প্রতিনিয়ত প্রচারিত হচ্ছে। সমাজবিজ্ঞানের কিছু লোক এই এবং সেই ধারণা সম্পর্কে কথা বলেছেন, শব্দটি যেভাবে ব্যবহার করা হয়েছে তা এক ধরণের মিশ্রণ, কিন্তু মূলত, এটি লক্ষণীয় যে আমরা আমাদের সরকারে অ্যালগরিদম বেশি ব্যবহার করছি এবং কিছু লোক এটিকে খারাপ বলে মনে করে এবং পক্ষপাত নিয়ে উদ্বিগ্ন এবং অংশগ্রহণের বিষয়ে উদ্বিগ্ন এবং কারণ দেওয়ার বিষয়ে উদ্বিগ্ন। এবং অন্যরা একটু বেশি নিরপেক্ষ, যেমন হয়তো টুলটি ঠিক আছে, নির্দিষ্ট প্রসঙ্গে বা যাই হোক না কেন ব্যবহার করা হয়। এবং তারপর অন্য শব্দ আমি এই জন্য coined হয় algoarchy. বিকল্প হল Algoarchy. এবং তাই, একটি অ্যালগরিদম কি? আমি যুক্তি দিয়েছি যে আলগোয়ার্কি এক ধরনের খারাপ ফর্ম। এবং এখানেই অ্যালগরিদমগুলি এমনভাবে ব্যবহার করা হচ্ছে যা মানব প্রতিষ্ঠানকে দুর্বল করে, এমনভাবে যা আমাদের উদার গণতান্ত্রিক সরকার পদ্ধতিকে দুর্বল করে। আংশিকভাবে, কারণ এটি যা করে তা হ’ল এটি ক্ষমতার ক্রিয়াকলাপকে নিরবচ্ছিন্ন এবং তাত্ক্ষণিক করে তোলে এবং এটি প্রক্রিয়ায় জড়িত মানুষের সংখ্যা হ্রাস করে, এটি পুশ-পুলের সুযোগকে হ্রাস করে বা এমনকি বাদ দেয়, বা এটি প্রতিযোগিতার সুযোগ হ্রাস করে, যা আমাদের গণতন্ত্রের অংশ হিসাবে আমাদের প্রয়োজন। এবং তাই এটা algorky. এবং তাই আমি যে পার্থক্য করতে চাই তা হল একটি আলগোক্রেসির মতো, একটি টেকনোক্রেসি বা আমলাতন্ত্রের মতো, তাই না? তারা সম্ভাব্য একটি উপায় ইতিবাচক. এটি এমন কিছু যা আমরা আমাদের প্রতিষ্ঠান এবং আমাদের মানবিক প্রতিষ্ঠান এবং আমাদের গণতান্ত্রিক উদারপন্থা এবং আইনের শাসন এবং কীভাবে আমরা আমাদের সমাজ গঠন করতে চাই তার সাথে কাজ করতে পারি। যেখানে স্বৈরাচার হচ্ছে, আপনি জানেন, রাজতন্ত্রের মতো, অলিগার্কির মতো, যেখানে আপনি যা পেয়েছেন তা হল অ্যালগরিদমগুলি এমন পরিমাণে দখল করেছে যে এটি সেই প্রতিষ্ঠানগুলিকে দুর্বল করেছে এবং আমাদের রাজনৈতিক মূল্যবোধকে ক্ষুণ্ন করেছে। তাই যে পার্থক্য আমি ঐ দুই ধরনের অদ্ভুত শব্দযুক্ত শব্দের সাথে আঁকছি।

টেরি গারটন আপনি সরকারে এআই অ্যালগরিদম স্থাপনের বিষয়ে চিন্তাভাবনার ক্ষেত্রে দুটি চ্যালেঞ্জের কথা বলছেন। একটি হল আরও ভাল অ্যালগরিদম ডিজাইন করা, কিন্তু অন্যটি হল মানব প্রতিষ্ঠানগুলিকে রক্ষা করা। আমরা কীভাবে এই দুটি চ্যালেঞ্জের মধ্যে ভারসাম্য বজায় রাখার বিষয়ে চিন্তা করি এবং সেগুলি সমাধানের জন্য আপনার সুপারিশগুলি কী?

মাইকেল লিভারমোর এটা খুবই প্রসঙ্গ-নির্দিষ্ট, এবং এটা কঠিন। এই প্রশ্নের একটি সর্বজনীন উত্তর অগত্যা নেই। এখন, আরও ভাল অ্যালগরিদম ডিজাইন করার প্রশ্নে, আমি মনে করি এটি আরও সহজবোধ্য হতে পারে। উদাহরণস্বরূপ, আমরা পক্ষপাতের প্রশ্ন সম্পর্কে কথা বলছিলাম, যা অগত্যা সহজভাবে সমাধান করা যায় না এবং সেখানে প্রকৃত মূল্যবোধের দ্বন্দ্ব এবং কঠিন প্রশ্ন রয়েছে। কিন্তু তবুও, আমি মনে করি কিছু খুব ভাগ করা ধারণা আছে, উদাহরণস্বরূপ, পক্ষপাতিত্ব না করাই ভালো। আমি বলতে চাচ্ছি, এখন, নিশ্চিত, আমরা এর অর্থ কী এবং বিভিন্ন প্রসঙ্গে এর অর্থ কী তা নিয়ে বিতর্ক করতে পারি। কিন্তু তবুও, সম্ভবত অনেক উপায়ে একটি ভাল এবং খারাপ পরিস্থিতি রয়েছে যা আমরা ইঞ্জিনিয়ার করতে পারি। অন্যদিকে, আপনি জানেন, আমরা যেমন সংগ্রহের পরিপ্রেক্ষিতে কথা বলছিলাম, আমি মনে করি এটি এমন কিছু নয় যা আমরা জোর করে দিয়ে যেতে পারি। আমাদের কেবল এই জিনিসটির মুখোমুখি হতে হবে এবং বলতে হবে যে এখন আপনার মধ্যে একটি বাণিজ্য বন্ধ রয়েছে, দক্ষতা। আমরা অনেক প্রসঙ্গে দক্ষতা পছন্দ করি। তবুও, আমাদের প্রতিষ্ঠানে একটি নির্দিষ্ট পরিমাণ দ্বন্দ্ব রক্ষা করতে হবে, এবং তাই আমাদের কেবল জিজ্ঞাসা করতে হবে কোথায় সেই দ্বন্দ্ব সবচেয়ে গুরুত্বপূর্ণ? যেখানে পিছিয়ে যাওয়ার সুযোগগুলি সবচেয়ে গুরুত্বপূর্ণ, তাই জনগণের জীবনের মৌলিক বিষয়গুলিতে, আপনি জানেন, ফৌজদারি বিচারের প্রেক্ষাপট যেখানে আমরা মানুষকে কারাগারে রাখছি, অত্যন্ত রাজনৈতিক প্রেক্ষাপট যেখানে অনেক মূল্যবোধ ঝুঁকির মধ্যে রয়েছে, টেবিলে এমন প্রশ্ন রয়েছে যেগুলি আমাদের ক্রমাগত পুনর্বিবেচনা করতে সক্ষম হওয়া দরকার, যে অঞ্চলগুলিতে নজরদারির মতো জিনিসগুলি খুব দ্রুত কাজ করতে পারে, যা খুব শক্তিশালী হয়ে উঠতে পারে, আমরা খুব দ্রুত চিন্তা করতে পারি। উদারনৈতিক মূল্যবোধের জন্য সত্যিকারের হুমকি হবে। আবার, এটি এমন একটি এলাকা হতে পারে যেখানে আমরা পাওয়ার হ্যান্ডলিংকে ধীর করতে চাই। এবং তাই আমি মনে করি আমাদের সত্যিই রাজনৈতিকভাবে ভাবতে হবে এবং আমাদের মূল্যবোধ এবং সেখানে আমাদের কী রক্ষা করতে হবে তা নিয়ে সত্যিই ভাবতে হবে। এবং এর মানে আমরা কিছু দক্ষতা ছেড়ে দিতে যাচ্ছি। এটা নিতে আমাদের প্রস্তুত থাকতে হবে, সেই মূল্য চিনতে হবে। এটি একটি ব্যয়বহুল অপারেশন নয়। এবং সত্যিই আমরা কি বলছি, আমরা কিছু খরচ সঙ্গে এখানে হবে. কিছু অদক্ষতা থাকবে, এটি জিনিসগুলিকে ধীর করে দেবে এবং এটি ব্যথার কারণ হবে। এটি সর্বদা মজাদার হবে না, তবে আমরা যে ধরনের সমাজে থাকতে চাই তা বজায় রাখতে এবং শেষ পর্যন্ত আমাদের সমাজের গণতান্ত্রিক ও উদার ভিত্তিকে দুর্বল করে এমন অত্যাচারের ঝুঁকিগুলি হ্রাস করার জন্য আমরা এটির সাথে লেগে থাকব।