And this AI safety work has to include work on AI value alignment, because the real threat from AGI isn't malice, like in silly Hollywood movies, but competence -- AGI accomplishing goals that just aren't aligned with ours.
کار ما بر روی ایمنی کارکرد هوش‌مصنوعی باید شامل کار بر روی تنظیم ارزش‌هایش باشد، چرا که تهدید واقعی از جانب هوش‌مصنوعی‌همه‌جانبه از نوع شیطانی نیست همانند آنچه در فیلم‌های احمقانه هالیوودی هست، بلکه از نوع برتری است -- یعنی هوش‌مصنوعی‌همه‌جانبه به اهدافی می‌رسد که با اهداف ما در تضاد است.