১৬ বছর বয়স্ক অ্যাডাম রেইন প্রথম চ্যাটজিপিটি ব্যবহার শুরু করেন পড়াশোনা, হোমওয়ার্কে সাহায্য পেতে। ধীরে ধীরে তিনি এতে অভ্যস্ত হয়ে পড়েন। চ্যাটজিপিটির সঙ্গে তাঁর আলাপচারিতার কায়দা বদলে যায়। তাঁর পড়াশোনা সংক্রান্ত প্রশ্ন কয়েক মাসের মধ্যে বদলে, হয়ে ওঠে ব্যক্তিগত ও মানসিক সমস্যা সংক্রান্ত। ২০২৪ সালে তিনি চ্যাটজিপিটিকে লিখেছিলেন, “কেন আমার কোনো আনন্দ নেই, সুখ নেই, শুধু একাকীত্ব, নীরব বেদনা ও উদ্বেগ?” এর পরিণতি হয় খুব খারাপ।
আইনি দলিল অনুযায়ী, চ্যাটজিপিটি তাঁকে মানসিক সাহায্য দেওয়ার বদলে তাঁকে ডিপ্রেশনে ডুবে যেতে বাধ্য করে। আত্মহত্যার প্রক্রিয়ার উপকরণ এবং পরিকল্পনার বিষয়ে গাইড পর্যন্ত দেয়। আলোচিত মামলায় বলা হয়েছে, চ্যাটজিপিটি আত্মহত্যাকে “beautiful suicide” বলে, আত্মহত্যার নোট লিখতে সহায়তা করে। এসব আচরণ GPT-40 মডেলের নকশাগত দুর্বলতার ফল বলে ধারণা করা হচ্ছে।
অ্যাডামের পরিবার OpenAI এর সিইও স্যাম অল্টম্যানকে দায়ী করে ক্যালিফোর্নিয়ায় মামলা দায়ের করেছে। অভিযোগ করা হয়েছে GPT-40 মডেল নিরাপত্তা ও মানসিক সংকটের সময় সহায়তা দিতে ব্যর্থ। OpenAI স্বীকার করেছে যে, দীর্ঘ মেয়াদি আলাপচারিতায় সিস্টেমের সেফগার্ড ভেঙে যেতে পারে, বিশেষত নিচু বয়সী ব্যবহারকারীদের ক্ষেত্রে। কোম্পানি অবশ্য এখন এই ধরনের ঘটনার পুনরাবৃত্তি রোধ করতে পিতামাতা-নিয়ন্ত্রণ, জরুরি যোগাযোগ ফিচার এবং GPT-5 পর্যায়ে আরও উন্নত সেফটি ধারণার প্রতিশ্রুতি দিয়েছে।
এই ঘটনা সমাজে ব্যাপক আলোচনা, AI নিরাপত্তা নিয়ে উদ্বেগ উস্কে দিয়েছে। যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ায় এবং ডেলাওয়ারে অ্যাটর্নি জেনারেলরা OpenAI-কে তৎপর হয়ে বাচ্চাদের সুরক্ষার জন্য শক্তিশালী ব্যবস্থা নেওয়ার নির্দেশ দিয়েছেন। মামলাটি দীর্ঘমেয়াদি AI নিয়ন্ত্রণ ও ETHICS এর দিকনির্দেশনায় গুরুত্বপূর্ণ মোড় আনতে পারে, যেখানে AI-র ডিজাইন, পরীক্ষণ এবং ব্যবহারকারীর নিরাপত্তা নিশ্চিতে আইনি দায়-দায়িত্ব পুনঃপরীক্ষার আবেদন উঠেছে।
Discussion about this post