simple update

Author: diktamxx

content/posts/我对AI编程的担忧/index.md

@@ -10,7 +10,7 @@ cover: "images/cover.png"
 thumbnail: "images/cover.png"
 ---
 
-最近网上对于 AI（准确来说是 LLM）编程的炒作可以说是如火如荼。但在我看来，那些炒作 AI 编程的人没有告诉大家一个事实。在真正工作中，要交付的生产级软件和那些由 AI 生成用来演示的软件根本不是一回事。特别是当软件本身注重长期演进和质量时尤为如此 —— [前阵子微软 CEO Satya Nadella 公开表示微软的代码库有 20～30% 是由 AI 编写的，但业界不少人对其质量表示堪忧](https://www.linkedin.com/posts/linasbeliunas_epic-microsoft-let-ai-write-30-of-its-code-activity-7407739565240819712-AvlS)。虽然 AI 编程看似能够轻而易举地完成一个任务，甚至输出整个软件的源代码。但至少就目前为止，它们实际上存在着一些令人无法忽视的质量问题。首先是 LLM 本身难以控制 —— 即便是同样的上下文和问题，多次输出的内容无法确保一致，且质量参差不齐。其次是 LLM 输出内容的质量属性属于“进垃圾，出垃圾”模式，这意味着并非所有模型都能够满足编程要求 —— 其实大多数输出都不尽人意。最后是关于 LLM 对于问题理解和实现的准确性。个人认为，之所以会诞生出各式各样的高级编程语言是因为它们能够严谨地表达和实现想法。但伴随着 LLM 的兴起，整个行业貌似又倒退回去用自然语言来开发软件。换言之，又需要重新解决一遍以前已经解决的问题。这个过程需要付出多少资源和时间才能达到生产就绪，目前不得而知。
+最近网上对于 AI（准确来说是 LLM）编程的炒作可以说是如火如荼。但在我看来，那些炒作 AI 编程的人没有告诉大家一个事实。在真正工作中，要交付的生产级软件和那些由 AI 生成用来演示的软件根本不是一回事。特别是当软件本身注重长期演进和质量时尤为如此 —— [前阵子微软 CEO Satya Nadella 公开表示微软的代码库有 20～30% 是由 AI 编写的，但业界不少人对其质量表示堪忧](https://www.linkedin.com/posts/linasbeliunas_epic-microsoft-let-ai-write-30-of-its-code-activity-7407739565240819712-AvlS)。虽然 AI 编程看似能够轻而易举地完成一个任务，甚至输出整个软件的源代码。但至少就目前为止，它们实际上存在着一些令人无法忽视的质量问题。首先是 LLM 本身难以控制 —— 即便是同样的上下文和问题，多次输出的内容无法确保一致，且质量参差不齐。其次是 LLM 输出内容的质量属性属于“进垃圾，出垃圾”模式，这意味着并非所有模型都能够满足编程要求 —— 其实大多数输出都不尽人意，而且反复向其澄清问题和需求的成本并不低。最后是关于 LLM 对于问题理解和实现的准确性。个人认为，之所以会诞生出各式各样的高级编程语言是因为它们能够严谨地表达和实现想法。但伴随着 LLM 的兴起，整个行业貌似又倒退回去用自然语言来开发软件。换言之，又需要重新解决一遍以前已经解决的问题。这个过程需要付出多少资源和时间才能达到生产就绪，目前不得而知。
 
 曾有人说，软件开发本身就是一个关于学习的过程。相关人员会在这个过程中不断吸收技术和业务知识，从而培养出处理系统突发问题的能力。而 AI 编程则会严重削弱这个过程。因为动手少了，对系统的掌控力自然就下降 —— 严重起来可能会导致生产事故频发。这是过度信任 AI 编程会带来的副作用。但问题在于 AI 根本不对它生成的内容负责，而项目团队则要对相关利益者，以及项目本身是否可持续发展和维护负责。