国际电信联盟成立焦点工作组以建立AI智能体信任

维度网讯，联合国数字技术机构启动新倡议以提升对人工智能智能体的信任。随着AI系统日益自主，问责与人类监督问题受到关注，该倡议旨在应对相关挑战。

AI智能体是新一代人工智能系统，可代表用户独立执行日程安排、采购、复杂业务流程等任务。国际电信联盟（ITU）指出，这些智能体虽能提升生产力，但也存在冒充人类并做出未经授权决策的风险。

为应对风险，国际电信联盟在日内瓦举行的“人工智能造福人类”峰会（AI for Good Summit）上宣布成立一个焦点工作组。该工作组将制定框架，确保AI智能体可识别、可信赖且受有意义的人类控制，尤其适用于金融交易和关键基础设施等敏感领域。

焦点工作组联合主席黛博拉·坎帕林（Debora Comparin）表示，AI智能体很快将代表人类进行谈判、交易和决策，因此需要建立共同的国际基础，以确定智能体的身份以及如何、何时可以信任它们。该工作组由技术、政策和法律专家组成，首次会议将于11月在巴黎举行，第二次会议将于1月在日内瓦举行。