让算法应用更加规范

3.0 易水寒 2025-10-19 485 99+ 29.22KB 5 页 5稿币

侵权投诉

让算法应用更加规范

算法（Algorithm），原本只是解决特定问题的数理路径，

但现在作为人工智能的“底层代码”，已经嵌入社会资源的调

配过程。毫不夸张地说，基于算法的智能应用，正逐渐改变着

人们的“存在方式”——社交媒体塑造电子身份、出行软件记

录活动轨迹、电子黄页等革新生活方式、网络商城改变消费理

念、搜索引擎划定知识边界、生成式人工智能主导知识传播。

就此而论，“算法社会”已经悄然降临。

算法可能引发的风险及成因

算法虽具有便利生活、改善决策、提高效率、优化产能等

优势，但同时也因缺乏有效的规制而存在诸多难以根除的风险，

第一，过度依赖算法决策。即便是经验丰富的司机，完全离开

手机导航，也会有如坐针毡之感。随着辅助性算法日趋频繁地

介入人们的日常决策，算法同人类的关系好比“象与骑象人”，

很难确定最终决定行走方向的究竟是作为潜意识的大象，还是

作为显意识的骑象人。第二，“信息茧房”充斥信息获取过程。

大型语言模型打底的生成式人工智能可轻易实现海量内容的海

量生产，若辅之以基于推荐算法的“精准推送”，人们将被困

于由人工智能主导的“信息茧房”之中，甚至将不得不迎合由

算法所引导的潮流。第三，技术黑箱所隐匿的决策偏误。数据

集偏差、编程人员的自我价值负载都可能导致非中立、不公正

的算法结果。资信审查算法对于不同性别的利率差等，反映出

算法对既有社会性偏见的强化，AI 聊天软件屡屡发表的有喜好

偏见的言论，更是对这一问题的直观体现。

算法运行原理及步骤

无论是乘客在网约车平台选择不同档次的出租车、用户在

手机短视频应用中的互动，抑或是商业银行通过评分系统考察

客户资信等，这些日常行为所包含的算法活动可大致划分为三

个典型步骤：第一步，平台端通过（主动或被动的）数据挖掘，

获取用户、消费者及同类群体的原始数据，例如所在位置、健

康信息、消费记录、浏览历史、行为言论、运动轨迹等；第二

步，云端将规整后的数据输入机器学习模型，输出概率、排名、

风险、倾向、估值等具有明确指向性的分数和结果；第三步，

应用终端生成可供决策的评价和预测报告，例如，搜索引擎生

成排序界面、自动驾驶系统规划行车路径、问诊机器人给出医

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

5 稿币 99+人已下载

立即下载

摘要：

让算法应用更加规范算法（Algorithm），原本只是解决特定问题的数理路径，但现在作为人工智能的“底层代码”，已经嵌入社会资源的调配过程。毫不夸张地说，基于算法的智能应用，正逐渐改变着人们的“存在方式”——社交媒体塑造电子身份、出行软件记录活动轨迹、电子黄页等革新生活方式、网络商城改变消费理念、搜索引擎划定知识边界、生成式人工智能主导知识传播。就此而论，“算法社会”已经悄然降临。算法可能引发的风险及成因算法虽具有便利生活、改善决策、提高效率、优化产能等优势，但同时也因缺乏有效的规制而存在诸多难以根除的风险，第一，过度依赖算法决策。即便是经验丰富的司机，完全离开手机导航，也会有如坐针毡之感。随...

展开>> 收起<<

让算法应用更加规范.docx

共5页,预览2页

还剩页未读，继续阅读

声明：文稿派尊重并保护知识产权，根据《信息网络传播权保护条例》及《民法典》第1195条之规定，如果我们转载的作品侵犯了您的权利，请在一周内通知我们，我们会及时删除。

让算法应用更加规范

相关推荐

开通VIP享超值会员特权

作者详情

相关内容

推荐作者

热门标签

举报选择: