当冰冷的算法，撞上民间关于吉凶祸福的古老观念，一桩充满悖论的案件就此摆在了法庭之上。9月16日，浙江嘉善男子起诉AI软件公司一案在嘉善县人民法院开庭。该男子使用AI推荐的下葬 “黄道吉日” 办完丧事后，亲戚发生车祸重伤，遂提起诉讼。目前该案件暂未宣判。
回顾整个案件是这样的：今年4月17日，史先生的母亲过世，家人商量哪天下葬，他想到了人工智能“豆包”这款软件，软件给他推荐了4月19日。
事情安排妥当之后，史先生再次向“豆包”确认发现，19日这一天并不是合适的日子。事已至此，通知所有亲友改期成本巨大，葬礼只能如期举行。
史先生告诉记者：“我比较相信‘豆包’，平时就依赖它，觉得它什么都懂。然后，我就问‘豆包’什么时候下葬，豆包说‘4月19日’。我觉得它讲得很有道理，所以，我就信了。”
史先生和“豆包”的沟通记录
丧事办完不久，家里有亲戚出了交通事故，而且受伤很严重，他们对于史先生的安排产生怨言。史先生就向制作“豆包”的软件公司进行了投诉，但没有收到软件公司的回复，于是他决定向法院起诉对方。“豆包”还帮史先生写了一份起诉状，表示可以起诉，并给出了起诉步骤。
用户软件协议
“豆包”软件的用户协议显示，“豆包”软件和服务生成的内容仅供参考，不作为专业建议。涉及产生重大影响的情形，建议咨询相关专业人士，不应成为作为或不作为的依据。根据输出的内容所作出的任何判断或者据此作出的后续相关操作行为，所带来的后果和责任均由用户自行承担等。
目前，这起案件在嘉善县人民法院已经开庭审理。律师认为，史先生通过起诉维权有一定难度。史先生如果要诉讼维权，得证明提供AI软件的这个服务提供商，存在过错行为。首先对方要有过错，另外，对方的过错与史先生实际遭受的损害还得有因果关系，这个举证是非常难的。如果只是AI提供了一个错误答案，这个显然是不够的。
生成式AI最为显著的特征是基于大规模训练数据完成内容生成，它并不具备预知吉凶、判断祸福的能力。所谓“黄历、择吉”等答案，只是模型抓取互联网上零散信息，重新整合生成的文字。
技术越强，人越得留三分清醒。AI可以作为人们的“帮手”，但它不是替代人主观思考和作决策的“万能钥匙”。面对AI给出的一切结论，我们需要保持一份审慎的辨别力。
（本稿综合自中国新闻周刊等报道）