AI语音更具真实性？大马政府发指南，教公众识别伪造音视频

泰国华人网讯 马来西亚国家网络安全机构（NACSA）预计将在7月初正式发布人工智能安全指南，以应对AI技术快速发展所带来的新型网络诈骗风险，尤其是近期频繁出现的AI语音冒充亲属诈骗案件。

NACSA首席执行员Megat Zuhairy Megat Tajuddin表示，该指南目前已进入最后起草阶段，预计将在今年7月对外发布。指南将面向政府机构、企业及公众用户，帮助各方在使用人工智能工具时更好识别风险并加强安全管理。

他指出，指南内容将重点围绕两个核心方向展开。第一是AI应用过程中的数据安全问题，机构在使用AI平台时必须特别注意输入内容，避免上传敏感资料、个人信息或内部机密数据到不安全系统中，从源头降低泄露风险。

第二是AI生成内容的可信度问题。指南将提醒用户不能完全依赖AI输出结果，尤其在涉及身份识别、语音、图像及视频内容判断时，必须进行额外核实，以防止被深度伪造内容误导。

NACSA表示，该指南初期将作为参考文件使用，并不会立即强制执行，但政府部门及相关机构将被鼓励率先采用。私营企业也可将其作为内部安全规范依据。

Megat Zuhairy同时透露，NACSA正在与多家科技公司合作，研究并引入能够识别AI生成内容的技术工具。例如部分平台已开始推出用于检测视频或图像是否由AI生成的功能，马来西亚也正与相关企业合作推动类似技术应用落地。

此次政策出台背景，是AI诈骗手段正在快速升级。当前诈骗分子已能够利用AI技术模拟亲友、同事甚至公司高层的声音，通过“紧急求助”“转账救急”或“冒充上级指令付款”等方式实施诈骗。与传统电话诈骗相比，AI语音更具真实性，导致受害者更容易放松警惕。

马来西亚政府表示，当前重点是先建立AI使用安全框架，让公众清楚哪些数据不能随意输入AI系统、哪些内容必须进行二次验证，以及如何识别深度伪造的语音、图像与视频，从而降低整体社会风险。