As you get to superintelligence, what's going to stop a robot reading literature and discovering this idea that knowledge is actually better than ignorance and still just shifting its own goals and rewriting that programming?
Όσο προχωράς προς την υπερνοημοσύνη, τι πρόκειται να σταματήσει ένα ρομπότ που διαβάζει λογοτεχνία και ανακαλύπτει την ιδέα ότι η γνώση είναι καλύτερη από την άγνοια, να μην αλλάξει τους σκοπούς του και ξαναγράψει τον κώδικά του;