生成式人工智能（AI）的发展速度越来越快，专家们预测，很快AI可能会达到通用人工智能（AGI）的水平。这引起了更多人对AI可能带来的威胁的担忧。
最近，Meta和OpenAI的高管表示，他们希望开发出像人类一样能够真正对话、推理和设计规划的AI，而不是仅擅长特定任务或能力有限的AI。因为只有当AI具备了推理、规划和设计能力时，才能被称为“通用人工智能”（Artificial General Intelligence, AGI）。AGI是指拥有与人类同等或超越人类智慧的AI，能够展现出人类具有的所有智能行为。
OpenAI和Meta都宣布不久将推出GPT-5和Llama3等模块，希望能实现AGI水平。特斯拉的CEO马斯克在X平台上表示：“我预测到2025年底，AI将比任何人类都聪明，它们的能力可能会在未来5年内（即2029年前）完全超越全人类。”
在X平台上，一个名为杰克森（Jackson）的账号发布了一份关于OpenAI预计在2027年发布具有争议性的AI Q*（发音为Q-Star）的相关报告。该报告指出，有许多间接证据表明Q*可能在2027年发布，届时它将达到AGI水平，拥有相当于人类智商145的智慧。
Q*在2023年曝光，当时有网上消息称OpenAI的前员工向董事会举报，称该公司高层对全社会和董事会隐瞒了他们正在进行的可能危及人类安全的AI Q*项目。
去年9月，被誉为“AI教父”的前谷歌高管、75岁的杰弗里·辛顿（Geoffrey Hinton）警告称，未来10年内，AI技术在某些方面可能比人类更聪明，这将给人类带来灾难性后果。
辛顿预测，AGI将在5年内出现，引发大量“杀手机器人”、假新闻和失业问题。
辛顿发明的技术成为了ChatGPT和Google Bard等系统的基础。
全球最大的人力资源服务公司之一艾德科集团（Adecco Group）最近公布了对全球2000家大公司高管的调查结果。约41%的高管认为未来5年员工数量会减少，主要原因是AI取代人类。有专家甚至认为，未来几年AI可能夺走人类80%的工作。
此外，一些从事文化艺术创作的人已经开始担忧AI正在替代他们的智慧。新推出的音乐生成式AI Suno,Udio和文字生成影像AI Sora，加剧了这种担忧。《滚石杂志》的作家布莱恩·希亚特（Braian Hiatt）上个月表示，Suno创作的歌曲让他感到惊讶和不安，因为它们完全是异世界的产物。
此外，比莉·艾利什（Billie Eilish）、妮琪·米娜（Nicki Minaj）等200多名著名艺术家和音乐家联合签署一封公开信，呼吁禁止音乐行业中的“掠夺性AI”夺走他们的创作灵感和饭碗。他们还呼吁制止AI滥用，或盗用艺术家的声音和形象，这不仅侵犯了创作者的权益，也破坏了整个音乐产业的生态。
曾在OpenAI担任市场推广高级主管的扎克·卡斯（Zack Kass）曾于今年1月大胆预言，若AI持续发展，“（AI）可能是人类最后一个技术发明，将替代商业、文化、医学、教育等领域的从业人员。”
日本计算机工程师清原仁对大纪元表示，AI的发展会使原本竞争激烈的创作和就业市场变得更加激烈，导致很多人可能被淘汰或取代。这对人类发展来说是一个严重问题。将会有很多人失业，并带来许多难以解决的问题。
AI的快速发展也在考验各国电网系统的承载能力，因为AI的发展离不开芯片、能源和数据存储空间，而现代科技特别依赖能源和网络。然而，各国电网系统容易受到天灾或黑客攻击的影响，可能出现大范围停电。
尽管马斯克认为，电力和芯片问题可能在1到2年内解决，但需要指出的是，AI机器学习、计算和数据存储都需要大量电力支持。目前发展的电动车也需要大量充电站支持。这些项目可能使本已脆弱和紧张的电力系统过载，甚至可能威胁到人们正常生活所需的电力。
阿姆斯特丹自由大学的博士生亚历克斯·德弗里斯计算出，到2027年，AI领域每年至少需要消耗85至134TWh的电力，相当于荷兰的年度能源需求，占全球电力的0.5%。之前有报告估计，训练ChatGPT这样的语言模型，可能要消耗1300MWh的电力，这相当于130个美国家庭的年度用电量。
然而，这些统计数据尚未包括科技公司在维护服务器、GPU、数据存储以及AI回答问题时所需的电力、水资源等成本。一些科学家发现，训练GPT-3需要消耗70万升的干净水，回答简单问题需要500毫升的干净水。OpenAI的CEO奥特曼表示，每天有1亿人让ChatGPT回答问题。如果上亿的ChatGPT用户都让GPT-4回答问题，消耗的水资源是无法估算的。
另外，OpenAI、Meta和谷歌等公司也表示他们将推出更强大的AI模型，这意味着这些AI需要更多能源、芯片和干净水，可能对人类生存所需的电力和水资源构成威胁。
尽管微软和OpenAI曾提出推动小型核电站为AI计算和数据存储中心提供电力，并将部分电力提供给普通家庭使用，但他们对核电站的位置设置及核废料的储存并未给出明确解决方案。
