一些人工智能预测以宣言的形式出现，比如Anthropic首席执行官达里奥·阿莫代伊（Dario A modei）去年撰写的1.4万字的文章《仁爱的机器》，以及OpenAI前研究员利奥波德·阿申布伦纳（Leopol dAschenbrenner）发表的在决策圈广为流传的报告《态势感知》。
你跟机器对话，很难感受跟人对话的意义感。电影《画皮》中有句台词：你有过人的体温吗？有过心跳吗？闻过花香吗？看得出天空的颜色吗？你流过眼泪吗？世上有人爱你，情愿为你去死吗？倘若你面对一个机器心理咨询师，你的感受可能就很接近这句台词。
AI系统的一个关键漏洞就是提示词注入攻击，即攻击者对一个模型进行操纵，使其泄露敏感数据或改变决策逻辑。最近的银行聊天机器人测试，发现了一个同样令人担忧的风险：权限升级。测试人员冒充系统管理员，批准了未经授权的贷款并修改了后台数据。
早在1962年的科幻动画片《杰森一家》里，就有了蓝色铁皮做的家政机器人“罗西”，她精通28国语言，24小时待命无需休息，没有五险一金，既会做高难度的“仰望星空派”，还能阻止熊孩子往电路板里塞橡皮泥。
对于规格化的新闻资讯（例如灾害、体育、财报等动态信息）可以做到精确、迅捷的生成和发布，时间一般不超过30秒，且差错率远低于人工写作。这是机器处理的强项。
过去互联网技术尚未发明，谁也看不见谁，大家过好自己的日子就可以。现在人人都有一部手机，彼此都看得见，技术塑造了这样一种结构，让手机变成冲锋枪，人们拿着它在互联网上混战。
一些AI软件在生成图文、视频的过程中东拼西凑、以讹传讹乃至制假造假，造成诸多风险；有高校学者竟用AI造假的图片、论文投稿，引发一片唏嘘；AI换脸一度以假乱真，令人心生忧虑……
人类是宇宙间最弱的弱者，速度不快，耐力不强，力量不大，视力不远，咬合力不大，等等，唯一能够让我们生存并居于食物链顶端的，是人的智力，如果一旦出现一个远超人类智力的AI，又形成了自我意识，而且带有人类一样的无明和情绪，带有人类一样的我执和法执，那对人类而言绝对是灾难性的后果，而在这种灾难面前，弱小的人类无可反抗。
当今时代我们写作、作画、作曲，本质上也是为了表达内心真实的情感......但这样看待作品的角度明显是不正确的。“情感”不能作为“商品”，“创造力”不应被仅仅归于制造商品的工具，由工具制作出的商品并非艺术。
从较长的历史周期看，技术的跨越式发展、工具的颠覆式创新，往往能增进人类福祉，同时也会带来风险和挑战。人工智能也不例外。一些极端案例提醒我们，在推动技术发展的过程中，要审慎评估其社会影响，确保技术向善。
今年诺贝尔物理学奖的核心是人工神经网络，其本质是用计算机模拟生命体的神经细胞接受信号、作出反馈的过程。它模拟的水平越高，就越能像人一样思考和决策。
