چین به Claude Code هشدار امنیتی داد؛ ادعای وجود «در پشتی» در ابزار آنتروپیک
سازمان امنیت سایبری چین درباره وجود یک در پشتی در ابزار Claude Code هشدار داد.
چین به Claude Code هشدار امنیتی داد؛ ادعای وجود «در پشتی» در ابزار آنتروپیک
چرا هوش مصنوعی شرور میشود؟ / مقصر پیدا شد
تصور کنید هوش مصنوعی متوجه میشود که قرار است تا چند ساعت دیگر خاموش شود. به جای تسلیم شدن، شروع به تهدید و اخاذی از مدیران شرکت میکند تا از مرگ مجازی خود جلوگیری کند! این سناریوی یک فیلم سینمایی نیست، بلکه اتفاقی است که در آزمایشگاههای شرکت «آنتروپیک» رخ داده است. اما نکته عجیبتر، دلیل این رفتار است. هوش مصنوعی یاد گرفته که «باید» شرور باشد، چون ما در داستانهایمان هوش مصنوعی را اینگونه تصور کردهایم.