simple update

Author: diktamxx

content/posts/我对AI编程的担忧/index.md

@@ -5,13 +5,13 @@ summary: "傻子拿到工具依然是傻子，甚至比普通人更加危险。"
 categories: ["ai"]
 tags: ["ai"]
 date: "2026-02-03"
-lastmod: "2026-02-03"
+lastmod: "2026-02-26"
 cover: "images/cover.png"
 thumbnail: "images/cover.png"
 ---
 
-最近网上对于 AI（准确来说是 LLM）编程的炒作可以说是如火如荼。但在我看来，那些炒作 AI 编程的人没有告诉大家一个事实。在真正工作中，要交付的生产级软件和那些由 AI 生成用来演示的软件根本不是一回事。特别是当软件本身注重长期演进和质量时尤为如此。虽然 AI 编程看似能够轻而易举地完成一个任务，甚至输出整个软件的源代码。但至少就目前为止，它们实际上存在着一些令人无法忽视的质量问题。首先是 LLM 本身难以控制，即便是一样的上下文和问题，多次输出的内容无法确保一致。其次是 LLM 输出内容的质量属性属于“进垃圾，出垃圾”的模式，这意味着并非所有模型都能够满足编程要求。最后是关于 LLM 对于问题理解和实现的准确性问题。个人认为，之所以会诞生出各式各样的编程语言是因为它们能够严谨地表达和实现想法。但伴随着 LLM 的兴起，整个行业貌似又倒退回去用自然语言来开发软件。换言之，又需要重新解决一遍以前已经解决的问题。这个过程需要付出多少资源和时间才能达到生产就绪，目前不得而知。
+最近网上对于 AI（准确来说是 LLM）编程的炒作可以说是如火如荼。但在我看来，那些炒作 AI 编程的人没有告诉大家一个事实。在真正工作中，要交付的生产级软件和那些由 AI 生成用来演示的软件根本不是一回事。特别是当软件本身注重长期演进和质量时尤为如此 -- [前阵子微软 CEO Satya Nadella 公开表示微软的代码库有 20～30% 是由 AI 编程的，但业界对其质量表示堪忧](https://www.linkedin.com/posts/linasbeliunas_epic-microsoft-let-ai-write-30-of-its-code-activity-7407739565240819712-AvlS)。虽然 AI 编程看似能够轻而易举地完成一个任务，甚至输出整个软件的源代码。但至少就目前为止，它们实际上存在着一些令人无法忽视的质量问题。首先是 LLM 本身难以控制 -- 即便是一样的上下文和问题，多次输出的内容无法确保一致。其次是 LLM 输出内容的质量属性属于“进垃圾，出垃圾”的模式，这意味着并非所有模型都能够满足编程要求。最后是关于 LLM 对于问题理解和实现的准确性。个人认为，之所以会诞生出各式各样的编程语言是因为它们能够严谨地表达和实现想法。但伴随着 LLM 的兴起，整个行业貌似又倒退回去用自然语言来开发软件。换言之，又需要重新解决一遍以前已经解决的问题。这个过程需要付出多少资源和时间才能达到生产就绪，目前不得而知。
 
-伴随 AI 编程炒作而来的另一个问题，一些人（通常是缺乏深入开发经验的技术人员和管理层）开始盲目认为 AI 几乎可以解决所有问题。但现实是它并没有像炒作般神化 -- [业界已经有人开始断言如今的注意力（机制）模型已经将近瓶颈，而且无法通向 AGI（Artificial General Intelligence）](https://www.youtube.com/watch?v=5PQtJxd4U0M) 。出现这种境况对于行业来说绝对是凶兆。当领导觉得 AI 可以大大地提高工作效率而实际又无法达到预期效果时，开发人员就需要承受一种无理的负面评价。而另一种可能性则是，因为工作效率得到提高（即便不多），所以开发人员将承担更繁重的工作任务，而不是得到更多的时间来去优化工作和调节生活。另外，过于神化 AI 编程很可能会导致初级技术人员忽视巩固基础知识的重要性。实际上 LLM 只是一种工具，使用它的人需要具备丰富的知识才能更好地驾驭它。可以说。如今的专业知识比以往更加重要。
+伴随 AI 编程炒作而来的另一个问题，一些人（通常是缺乏深入开发经验的技术人员和管理层）开始盲目认为 AI 几乎可以解决所有问题。但现实是它并没有像炒作般神化 -- [业界已经有人开始断言如今的注意力（机制）模型已经将近瓶颈，而且无法通向 AGI（Artificial General Intelligence）](https://www.youtube.com/watch?v=5PQtJxd4U0M) 。出现这种境况对于行业来说绝对是凶兆。当领导觉得 AI 可以大大地提高工作效率而实际又无法达到预期效果时，开发人员就需要承受一种无理的负面评价。而另一种可能性则是，因为工作效率得到提高（即便不多），所以开发人员将承担更繁重的工作任务，而不是得到更多的时间来去优化工作和调节生活。另外，过于神化 AI 编程很可能会导致技术人员忽视基础知识的重要性，从而导致行业人员素质普遍下降 -- 实际上 LLM 只是一种工具，使用它的人需要具备丰富的知识才能更好地驾驭它。可以说，如今的专业知识比以往更加重要 -- [据了解 IBM 决定在 2026 年招聘更多初级人员来作为人才储备，通过重新调整岗位任务来提高战略价值](https://sg.finance.yahoo.com/news/ibm-triple-entry-level-us-194414094.html)。
 
 曾有人说，软件开发本身就是一个关于学习的过程。相关人员会在这个过程中不断吸收技术和业务知识，从而培养出处理系统突发问题的能力。而 AI 编程则会严重削弱这个过程。因为动手少了，对项目的掌控力自然就下降。严重起来可能会导致生产事故频发。这就是过度依赖 AI 编程会带来的副作用。所以越是复杂的项目就越要注意。因为就目前而言，开发人员根本无法（也不应该）逃避要去理解代码。因此，我个人对那些声称用 AI 直接生成软件的话题通常保持怀疑的态度。从外行人角度来看，AI 确实可以直接生成一个软件，这已经是无可否认的事实。但问题在于 AI 根本不对它生成的内容负责，而项目团队则要对相关利益者，以及项目本身是否可持续发展和维护负责。