技术应用边界课件

AI·治理专题技术应用边界能力·红线·责任年份2026年内容导览01技术能做什么厘清技术能力与适用场景02技术不能做什么伦理、法律与安全红线03我们该怎么做建立边界意识与责任担当01技术能做什么先看清能力，再谈边界技术的力量，始于对它的清醒认识技术是能力的延伸技术并没有凭空创造目的，它放大的始终是人的意图“理解能力的放大，是讨论边界的认知起点。”能力是延伸，而非替代——边界由此而生。01本质技术的本质，是把人的感知、计算、记忆与表达能力放大02演进从机械化到自动化，再到智能化，能力放大的幅度越来越大03责任能力越大，使用者的判断责任越重技术能做什么的四类能力技术的长处集中在重复、海量与规则清晰的领域技术能力全景：从感知到协同的四类基本盘“这四类能力共同构成了技术发挥作用的基本盘。”感知与识别图像、语音、文本等信息的读取与判断计算与推演海量数据的处理、预测与模拟生成与创造内容、代码、方案的快速产出连接与协同跨地域协作与资源调度技术价值在场景中兑现技术不是抽象概念，它的价值只在具体场景中兑现同一项技术，落到不同的真实场景里，长出的是完全不同的价值形态。但场景越真实，需要考虑的约束就越多教育与学习个性化学习路径优质资源普惠医疗与健康辅助诊断提升服务效率交通与出行路径规划调度优化生产与生活自动化流程智能助手能力有顶场景有界看清技术做不到什么，比列举它做到什么更重要数据质量决定了技术能力的上限因此，边界问题不只是能力问题，更是伦理与法律问题。技术擅长重复劳动海量信息规则明确的任务技术不擅长常识判断情感理解价值取舍02技术不能做什么越界之处，即是风险红线之内是创新，红线之外是代价伦理红线不可逾越技术的每一次应用，背后都站着具体的人尊重人，是技术应用的伦理底线。隐私数据采集应做到知情同意、目的明确公平算法可能放大既有的偏见与不平等自主技术不应成为操纵他人选择的手段尊严人不能被简化为一组可计算的数据法律红线不可触碰法律的边界明确之处必须遵守，模糊之处更需自律四条红线界定AI内容生产的安全边界，合规是底线，自律是选择。数据合规来源来源合法使用使用有据范围范围明确知识产权归属生成内容的归属需明辨引用生成内容的引用需明辨责任归属主体责任主体必须可追溯问题出了问题须有人担责平台规则条款使用条款同样是必须遵守的约束约束条款约束同样不可逾越法律常滞后于技术迭代，自律因此格外重要安全红线不可侥幸安全不是技术应用的附加项，而是前提条件对风险保持敬畏，是使用技术的第一步。可靠性风险错误一旦发生，代价可能不可逆失控风险系统越自主，越需要可约束、可解释依赖风险过度依赖会让人的能力逐渐退化越界之后代价沉重一次越界，可能抵消长期积累的技术信任越界的技术应用，代价往往落在信任、权益与发展三重维度上。信任受损用户一旦失去信任，很难重新建立权益受侵受影响的是具体的个人与群体发展受阻越界的技术应用会被抵制与限制边界不是束缚，而是让技术走得更远的护栏03我们该怎么做边界意识，从我做起懂技术，更要懂分寸用前先问三个问题边界意识，从动手前的三个提问开始三个问题都清楚了，再开始使用技术。1问题01该不该做是否符合伦理规范与法律要求2问题02能不能做技术是否足够成熟、足够可靠3问题03谁来负责责任主体是否清晰、可否追溯做一个负责任的使用者做一个懂技术、更懂分寸的使用者负责任的AI使用，始于每一次使用前的自查与自律技术越强大，使用者的自律就越重要。保持怀疑核查结论不迷信技术给出的结论保护隐私数据边界不随意上传自己与他人的数据尊重原创来源标注注明信息来源与工具使用情况持续学习认知风险了解技术原理与潜在风险从边界意识到行动自觉边界意识最终要变成行动自觉守得住边界，才真正用得好技术。—行动自觉守得住边界，才真正用得好技术。在课堂中诚信使用技术工具，不代替独立思考和原创表达在生活中