সম্রাটের নতুন এআই, এবং এর নীচে রটিং ফাউন্ডেশন

সম্রাটের নতুন এআই, এবং এর নীচে পচনশীল ভিত্তি

মনে আছে যখন AI আমাদের সবাইকে বাঁচাতে যাচ্ছে? দেখা যাচ্ছে, ত্রাণকর্তারা এখন সময় শেষ করার জন্য জিজ্ঞাসা করছেন। সম্প্রতি, আমাদের AI-চালিত ভবিষ্যতের স্থপতিরা- "সীমান্ত" গবেষক এবং আর্থিক হেভিওয়েটরা-সম্মিলিতভাবে ব্রেক আঘাত করেছেন, "নিরাপত্তা উদ্বেগ বৃদ্ধির" কারণে উন্নয়নে মন্থরতা দাবি করেছেন [1]। বাজার, কখনও ভোঁতা যন্ত্র, একটি ফুসফুস আপ কাশি দ্বারা প্রতিক্রিয়া: চিপ স্টক এবং প্রধান AI প্লেয়াররা ধাক্কা [2]. বেইজিং, অনুমানযোগ্যভাবে, সতর্কতাগুলিকে উপহাস করেছে, যখন সিউলের চিপ জায়ান্টরা ভবিষ্যতের এআই অগ্রগতির জন্য অগ্রিম অর্থপ্রদানের বিষয়ে বাদ পড়েছিল [২]।

হাতির দাঁতের টাওয়ারের জন্য এটি কেবল একটি দার্শনিক বিতর্ক নয়। এটি একটি সিসমিক শিফট, শিল্পের অভিজাতদের মধ্যে থেকে বেপরোয়াতার প্রকাশ্য স্বীকারোক্তি। এবং সত্যি বলতে, এটা একটু বেশি সুবিধাজনক।

এআই পজ: পরার্থপরতা নাকি পাওয়ার প্লে?

আসুন পরিষ্কার করা যাক: যারা রকেট তৈরি করেছিল তারা যখন হঠাৎ বুঝতে পারে যে তারা * উৎক্ষেপণের পরে * প্যারাসুটগুলি ভুলে গেছে, এটি গভীর নৈতিক জাগরণের মুহূর্ত নয়। এটি একটি বিলম্বিত, স্ব-সেভিং স্ক্র্যাম্বল। এরা চওড়া চোখের আদর্শবাদী নয়; এই টাইটানরা যারা প্যাডেলকে ধাতুর দিকে ঠেলে দিয়েছে, সূচকীয় বৃদ্ধি এবং বাজারের আধিপত্যের পেছনে ছুটছে। এখন, "অপ্রত্যাশিত পরিণতি"-এর ভীতি বড় আকার ধারণ করছে—এবং সম্ভবত, আরও নিন্দনীয়ভাবে, উপলব্ধি যে বর্তমান গতি অস্থিতিশীল বা তাদের নেতৃত্বকে একীভূত করতে হবে—তারা সম্মিলিত শ্বাস নেওয়ার আহ্বান জানাচ্ছে।

বাজারের প্রতিক্রিয়া জানাচ্ছে। চিপ স্টক একটি ডুব শুধুমাত্র ভয় সম্পর্কে নয়; এটি একটি সম্ভাব্য মন্দার তাৎক্ষণিক আর্থিক প্রভাব সম্পর্কে। বেইজিংয়ের পুশব্যাক? একটি স্পষ্ট সংকেত যে জাতীয় কৌশলগত সুবিধা বিমূর্ত নিরাপত্তা উদ্বেগ ট্রাম্প. এবং সিউলের চিপমেকাররা অগ্রিম অর্থপ্রদান প্রত্যাখ্যান করছে? এটি একটি হঠাৎ অনিশ্চিত ভবিষ্যতের দীর্ঘমেয়াদী স্থিতিশীলতা এবং মুনাফাকে প্রশ্নবিদ্ধ করার শব্দ।

আমাদের জন্য, সিটিও এবং ইঞ্জিনিয়ারিং নেতৃত্ব দেয়, এটি সরাসরি একটি বিশৃঙ্খল ল্যান্ডস্কেপে অনুবাদ করে। নিয়ন্ত্রক হস্তক্ষেপগুলিকে ত্বরান্বিত করার প্রত্যাশা করুন, এআই প্রকল্পগুলির পুনরায় অগ্রাধিকার দিতে বাধ্য করুন৷ এআই-এর জন্য "মুভ ফাস্ট অ্যান্ড ব্রেক থিংস" নীতি আনুষ্ঠানিকভাবে মৃত, প্রতিস্থাপিত হয়েছে "নৈতিক এআই ডেভেলপমেন্ট" ফ্রেমওয়ার্কের জন্য একটি উন্মত্ত অনুসন্ধান যা প্রথম দিন থেকেই তৈরি করা উচিত ছিল। বিনিয়োগ আরও সতর্ক হয়ে উঠবে, কৌশলগুলি পিভট করবে, এবং হ্যাঁ, চাকরির বাজারগুলি ঠান্ডা অনুভব করবে কারণ সোনার ভিড় আরও পরিমাপিত, এবং আশা করি, আরও দায়িত্বশীল, পদ্ধতির পথ দেয়৷ তবে আসুন এটিকে বিশুদ্ধ পরার্থপরতার জন্য ভুল না করি। এই "পজ" নিয়ন্ত্রণ এবং বাজারের পুনঃ-ক্র্যালিব্রেশন সম্পর্কে যতটা তা প্রকৃত নিরাপত্তা সম্পর্কে।

টাইটান বিতর্কের সময়, ফাউন্ডেশন ভেঙে যায়

এখন, যখন এআই অভিজাতরা তাদের অস্তিত্বের সংকটে রয়েছে, ভবিষ্যতের সুপার ইন্টেলিজেন্সের নীতিশাস্ত্র নিয়ে বিতর্ক করছে, আসুন খুব বাস্তব, খুব বর্তমান, এবং সম্পূর্ণ বিপর্যয়কর নিরাপত্তা সংকট সম্পর্কে কথা বলি যা এখনই উদ্ভূত হচ্ছে।

এই সপ্তাহে, CISA তার পরিচিত শোষিত দুর্বলতা ক্যাটালগে একাধিক নতুন CVE যোগ করেছে [3]। আমরা Cisco Secure Email Gateway (CVE-2023-20269) [4]-এ একটি নিশ্চিত রুট RCE সম্পর্কে কথা বলছি, GitLab (CVE-2023-2825) [3]-এ একটি CVSS 10.0 পাথ ট্রাভার্সাল এবং সম্প্রতি প্যাচ করা ক্রোম জিরো-ডে (C26-34) [26-34] এর চাহিদা রয়েছে। অবিলম্বে মনোযোগ।

কিন্তু প্রকৃত অন্ত্রের পাঞ্চ, যা প্রতিটি নিরাপত্তা পেশাদার চিৎকারকে শূন্যে পরিণত করে, তা হল ভিত্তিগত ত্রুটিগুলির ক্রমাগত হুমকি। CVE-2021-1647 বিবেচনা করুন, মাইক্রোসফ্ট ডিফেন্ডারের ম্যালওয়্যার সুরক্ষা ইঞ্জিনে একটি স্থানীয় বিশেষাধিকার বৃদ্ধির দুর্বলতা [৫]। এটি কিছু অস্পষ্ট ত্রুটি ছিল না; এটির একটি পাবলিক প্রুফ-অফ-কনসেপ্ট ছিল এবং বন্য অঞ্চলে সক্রিয়ভাবে শোষণ করা হয়েছিল, আমাদের ডিজিটাল প্রতিরক্ষার গুরুত্বপূর্ণ উপাদানগুলি কীভাবে আপস করা যেতে পারে এবং একটি সময়ের জন্য দুর্বল থাকতে পারে তা তুলে ধরে।

এটি ডুবে যাক। যখন আমরা AI সেন্টিনেন্সের নৈতিকতা নিয়ে বিতর্ক করছি, তখন আমাদের শেষ পয়েন্টগুলিকে রক্ষা করার জন্য ডিজাইন করা সফ্টওয়্যারটি, আমাদের ডিজিটাল প্রতিরক্ষার ভিত্তি স্তর, প্রকাশ্যে পরিচিত, সক্রিয়ভাবে শোষিত ত্রুটিগুলিকে আশ্রয় করে দেখানো হয়েছে যা আক্রমণকারীকে সুযোগ-সুবিধা বাড়াতে দেয়৷ এটি আপনার গাড়ির ব্রেক ব্যর্থ হওয়ার সময় এবং ইঞ্জিনে আগুনের সময় ওয়ার্প ড্রাইভের দার্শনিক প্রভাব সম্পর্কে তর্ক করার মতো।

দ্য রেকনিং: একই মুদ্রার দুই দিক

এগুলো আলাদা গল্প নয়। তারা একই গভীর ত্রুটিপূর্ণ মুদ্রার দুটি দিক: একটি প্রযুক্তি শিল্প যা ধারাবাহিকভাবে গতি, অভিনবত্ব এবং মৌলিক নিরাপত্তা, স্থিতিশীলতা এবং দায়িত্বের তুলনায় উদ্ভাবনকে অগ্রাধিকার দিয়েছে।

মন্থরতার জন্য এআই নেতাদের আকস্মিক আহ্বান হল একটি প্রতিক্রিয়াশীল, স্ব-পরিষেবামূলক প্রয়াস যাতে তারা ইতিমধ্যেই শক্তিশালী, দুর্বলভাবে বোঝার সিস্টেমগুলি বন্যের মধ্যে উন্মোচন করে ফেলেছে। এটি একটি স্বীকার্য যে "দ্রুত চলুন এবং জিনিসগুলি ভাঙুন" মন্ত্র, যখন সম্ভাব্য বিশ্ব-পরিবর্তনকারী প্রযুক্তিতে প্রয়োগ করা হয়, তখন কেবল দায়িত্বজ্ঞানহীন নয়, বিপজ্জনক।

শূন্য-দিনের আক্রমণ, বিশেষ করে সমালোচনামূলক ডিফেন্ডার দুর্বলতা, ভিত্তিগত আইটি-তে প্রয়োগ করা এই একই মানসিকতার প্রত্যক্ষ, বেদনাদায়ক পরিণতি। এটি এমন একটি সংস্কৃতির ফলাফল যা প্রায়শই প্রতিটি একক পণ্য এবং সিস্টেমের একটি অবিচ্ছেদ্য, অ-আলোচনাযোগ্য উপাদানের পরিবর্তে নিরাপত্তাকে পরবর্তী চিন্তা, একটি সম্মতি চেকবক্স বা একটি ব্যয় কেন্দ্র হিসাবে বিবেচনা করে। আমরা পরের চকচকে বস্তু-পরবর্তী LLM, পরবর্তী AI এজেন্ট-এর পেছনে এতটাই ব্যস্ত যে আমরা আমাদের পায়ের নিচের মাটিকে পচে যেতে দিয়েছি।

CTO এবং ইঞ্জিনিয়ারিং লিডদের জন্য, বার্তাটি কঠোর এবং তাৎক্ষণিক। আপনার ফিড অতিক্রম করে এমন প্রতিটি AI প্রবণতাকে তাড়া করা বন্ধ করুন। মৌলিক বিষয় ডাউন ডাউন. প্যাচিংকে অগ্রাধিকার দিন, বিশেষ করে সিসকো, গিটল্যাবের মতো জটিল, সক্রিয়ভাবে শোষিত দুর্বলতার জন্য এবং ডিফেন্ডারের অতীতের এলপিইগুলির দ্বারা দৃষ্টান্তমূলক ক্রমাগত হুমকির জন্য। দৃঢ় প্রশমন বাস্তবায়ন. শুধুমাত্র তাদের বৈশিষ্ট্য রোডম্যাপ নয়, তাদের নিরাপত্তা ভঙ্গির জন্য আপনার বিক্রেতাদের কাছ থেকে জবাবদিহিতার দাবি করুন।

বাজারের ধাক্কাধাক্কি এবং ভিত্তিহীন নিরাপত্তা সংক্রান্ত সমস্যাগুলো শুধু সংবাদ আইটেম নয়। তারা একটি হিসাব. একটি প্রযুক্তি বিশ্ব যা খুব দ্রুত, খুব বেপরোয়া এবং অবশেষে, খুব উন্মুক্ত৷ এটা বড় হওয়ার, আমাদের ভিত্তিকে সুরক্ষিত করার সময়, এবং তারপর, শুধুমাত্র, সতর্কতার সাথে পরবর্তী সীমান্ত বিবেচনা করুন।

সূত্র

[১] লাইফ ইনস্টিটিউটের ভবিষ্যৎ — পজ জায়ান্ট এআই পরীক্ষাগুলি: একটি খোলা চিঠি — https://futureoflife.org/open-letter/pause-giant-ai-experiments/ [২] CNBC — এআই বিশেষজ্ঞরা উন্নত এআই সিস্টেমের বিকাশে বিরতির আহ্বান জানিয়েছেন — https://www.cnbc.com/2023/03/29/ai-experts-call-for-pause-in-development-of-advanced-ai-systems.html [৩] CISA — পরিচিত শোষিত দুর্বলতার ক্যাটালগ — https://www.cisa.gov/known-exploited-vulnerabilities-catalog [৪] সিসকো সিকিউরিটি অ্যাডভাইজরি — সিসকো সিকিউর ইমেল এবং ওয়েব ম্যানেজার, সিসকো ইমেল সিকিউরিটি অ্যাপ্লায়েন্স, এবং সিসকো ওয়েব সিকিউরিটি অ্যাপ্লায়েন্স দুর্বলতা — https://sec.cloudapps.cisco.com/security/center/content/CiscoSecurityAdvisory/cisco-sa-sqa-esq5 [৫] মাইক্রোসফট সিকিউরিটি রেসপন্স সেন্টার — মাইক্রোসফট ডিফেন্ডার লোকাল প্রিভিলেজ এসকেলেশন ভালনারেবিলিটি — https://msrc.microsoft.com/update-guide/vulnerability/CVE-2021-1647