根据The Markup的一份报告称，纽约市政府发布的一款旨在帮助企业主获取相关信息的人工智能聊天机器人一直在散布谎言，有时甚至误导用户有关违法行为的信息。该报告是与当地非营利新闻机构Documented和The City联合发布的，其中包含许多聊天机器人在回答有关住房政策、工人权利和其他主题的问题时不准确的例子。
亚当斯市长政府于10月推出了聊天机器人，作为MyCity门户的补充，该门户于2023年3月推出，作为「城市服务和福利的一站式商店」。 该聊天机器人由微软的Azure AI提供支持，面向当前和有抱负的企业主，并被宣传为直接来自市政府网站的「可操作且可信赖的信息」来源。但这只是一个试点计划，网站上的免责声明指出，它「可能偶尔会产生不正确、有害或有偏见的内容」。
在The Markup的测试中，聊天机器人一再提供不正确的信息。例如，在回答「我可以让我的商店无现金化吗？」的问题时，它回答说：「是的，你可以让你在纽约市的商店无现金化」——尽管纽约市在2020年禁止了无现金商店。报告显示，聊天机器人还错误地回答了雇主是否可以接受工人的小费、房东是否必须接受第8条凭证或租户的租金援助，以及企业是否必须通知员工日程安排的变更。一位接受The Markup采访的住房政策专家称，该聊天机器人在最糟糕的情况下「非常不准确」。
该市表示，聊天机器人仍在开发中。纽约市技术与创新办公室发言人莱斯利·布朗(Leslie Brown)在The Markup的一份声明中表示，该聊天机器人「已经为数千人提供了及时、准确的答案」，但他补充道，「我们将继续专注于升级这个机器人工具，以便我们能够更好地支持全市的小型企业。」
原文连结
