上一篇我分享了3个让0.5B小模型编程正确率从32%飙到92%的方法。这一篇我来讲讲这个过程中踩过的5个坑——每一个都让我浪费了好几天。为什么写这篇上一篇写了3个策略背答案、区别对待、自动纠错。听起来很简单对吧但我是怎么知道这些策略的答案是踩坑踩出来的。每一个正确方法的背后都有一个错误方法的故事。今天我把这些故事分享出来希望你能少走弯路。坑1我给它看了100个例子它反而不会了那天发生了什么我兴致勃勃地给0.5B模型准备了100个编程示例想着这下你总该学会了吧。# 我的代码examplesload_examples(100_examples.json)# 100个正确示例resultmodel.run(写一个fibonacci函数,examplesexamples)结果简单任务的正确率反而从100%降到了80%。我当时心态崩了我费了这么大劲准备例子结果还不如裸跑后来我明白了0.5B模型的大脑很小你给它太多信息它反而会消化不良。就像你给小学生一本微积分教材——他不是不聪明是信息过载了。解决方案# 错误所有任务都给例子fortaskintasks:resultkernel.run(task,with_examplesTrue)# 正确简单任务让它自己写复杂任务才给例子fortaskintasks:resultkernel.run(task)# 先让它自己写ifresult.failed:# 不行再给例子resultkernel.run(task,with_examplesTrue)坑2让它参考它偏要原创那天发生了什么我给模型一个正确的LRU Cache代码告诉它参考一下。# 我给的正确代码classLRUCache:def__init__(self,capacity):self.capacitycapacity self.cache{}self.order[]defget(self,key):ifkeynotinself.cache:return-1self.order.remove(key)self.order.append(key)returnself.cache[key]defput(self,key,value):ifkeyinself.cache:self.order.remove(key)eliflen(self.cache)self.capacity:oldestself.order.pop(0)delself.cache[oldest]self.cache[key]value self.order.append(key)# 我的promptprompt参考这个代码lru_cache_code# 模型输出classLRUCache:def__init__(self,capacity):self.capacitycapacity self.cache{}self.order[]deffetch(self,key):# ← 函数名改了get → fetchifkeynotinself.cache:return-1self.order.remove(key)self.order.append(key)returnself.cache[key]defput(self,key,value):...defget_value(self,key):# ← 多了个函数returnself.cache.get(key,-1)它不是在抄作业它是在原创。我花了两个小时debug最后发现是prompt的问题。后来我明白了小模型不理解参考是什么意思。你写参考它理解为参考一下然后自己发挥。解决方案# 错误让它参考prompt参考这个代码正确代码# 正确告诉它照抄别改prompt直接返回这段代码不要修改任何一行正确代码坑3它写了代码但我读不到那天发生了什么模型生成了一段代码看起来没问题。但我调用解析器的时候解析器说没有找到代码。# 模型输出实际deffibonacci(n):ifn0:return0elifn1:return1else:a,b0,1for_inrange(2,n1):a,bb,abreturnb# 我的解析器defextract_code(text):matchre.search(rpython\n(.*?),text,re.DOTALL)returnmatch.group(1)ifmatchelseNone# 结果resultextract_code(model_output)print(result)# None我debug了两个小时最后发现它直接输出了函数定义没有包裹在代码块里。而我的解析器只认代码块所以读不到。后来我明白了0.5B模型的输出格式不稳定你的解析器要兼容多种情况。解决方案# 错误只认代码块defextract_code(text):matchre.search(rpython\n(.*?),text,re.DOTALL)returnmatch.group(1)ifmatchelseNone# 正确兼容多种格式defextract_code(text):# 先找代码块matchre.search(rpython\n(.*?),text,re.DOTALL)ifmatch:returnmatch.group(1)# 再找直接输出的函数定义matchre.search(r^(def |class ),text,re.MULTILINE)ifmatch:returntext[match.start():]returnNone坑4函数名被改了NameError那天发生了什么我让模型写一个binary_search函数。它写出来了代码逻辑也对。# 我要求的defbinary_search(arr,target):left,right0,len(arr)-1whileleftright:mid(leftright)//2ifarr[mid]target:returnmidelifarr[mid]target:leftmid1else:rightmid-1return-1# 模型实际输出defbs(arr,target):# ← 函数名改了binary_search → bsleft,right0,len(arr)-1whileleftright:mid(leftright)//2ifarr[mid]target:returnmidelifarr[mid]target:leftmid1else:rightmid-1return-1但我的测试用例调用binary_search的时候报错NameError: name binary_search is not defined我debug了半天最后发现它把函数名改成了bs觉得这样更简洁。后来我明白了0.5B模型喜欢简化函数名。你需要在prompt里强调函数名或者后处理自动修复。解决方案# 方法1prompt里强调promptf写一个名为binary_search的函数必须用这个名字不能改# 方法2后处理自动修复deffix_function_name(code,expected_name):matchre.search(rdef (\w)\(,code)ifmatchandmatch.group(1)!expected_name:codecode.replace(fdef{match.group(1)}(,fdef{expected_name}()returncode效果NameError减少了72%。坑5Windows乱码那天发生了什么我的代码在Mac上跑得好好的发给朋友用Windows的人他说乱码了。# 我的代码Mac上正常withopen(data.txt,r)asf:contentf.read()print(content)# 正常输出你好世界# 朋友的代码Windows上乱码# 输出中文串ç我当时一脸懵我代码没问题啊怎么到他那就乱码了后来我明白了Windows中文系统默认编码是GBK不是UTF-8。跨平台开发时编码问题是最容易被忽视的坑。解决方案# 错误直接读取withopen(file,r)asf:contentf.read()# 正确多编码尝试defsafe_read(file):encodings[utf-8,gbk,latin-1]forencodinginencodings:try:withopen(file,r,encodingencoding)asf:returnf.read()exceptUnicodeDecodeError:continueraiseValueError(f无法解码文件:{file})这5个坑教会我的事坑教训给它看100个例子信息过载反而有害让它参考小模型不理解参考它写了但读不到输出格式不稳定函数名被改了小模型喜欢简化乱码跨平台编码问题核心原则小模型不可靠你要用工程手段让它可靠。写在最后这5个坑每一个都让我浪费了好几天。如果你也在折腾小模型编程希望这篇文章能帮你少走弯路。如果你觉得有用点个赞让我知道吧谢谢~下一篇预告《小模型AI编程实战我是怎么让效率提升17倍的》作者糖纸999项目Level999 - 让小模型变强的AI编程引擎Giteehttps://gitee.com/jerry-su-LL/level999