考えられる超人間的知性の中には、人類の生存や繁栄と共存できない目的をもつものもあるかもしれない。AI研究者フーゴ・デ・ガリスは、AIが人類を単に排除しようとし、人類はそれを止めるだけの力がないかもしれないと言う。他によく言われる危険性は、分子ナノテクノロジーや遺伝子工学に関するものである。これらの脅威は特異点支持者と批判者の両方にとって重要な問題である。ビル・ジョイはWIRED誌で、その問題をテーマとして Why the future does't need us(何故未来は我々を必要としないのか)を書いた(2000年)。オックスフォード大学の哲学者ニック・ボストロムは人類の生存に対する特異点の脅威についての論文 Existential Risks(存在のリスク)をまとめた(2002年)。
化学物質過敏症
特定疾患
オーケストラ
バーベキュー
スキンケア
学童保育所
衛生
合気道
ホスピス
試写会
材料科学
システム工学
哺乳類
クリスマス
遺伝子疾患
食品添加物
ボクシング
履歴書
バレーボール
労働組合
多くの特異点主義者はナノテクノロジーが人間性に対する最も大きな危険のひとつであると考えている。このため、彼らは人工知能をナノテクノロジーよりも先行させるべきだと考えている。Foresight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全に制御可能となるし、有益な特異点をもたらすのに役立つと主張している。
友好的人工知能の支持者は特異点が潜在的に非常に危険であると認めて、人間に対して好意的に動作するようにAIを設計して存在のリスクを排除しようと考えている。この考え方はアイザック・アシモフのロボット工学三原則にも具体化されていて、人工知能ロボットが人間を傷つけることを防止することを意図している。ただし、アシモフの小説では、この法則の抜け穴を扱うことが多い。