当前位置:
只因一个“:” 大模型全军覆没?

只因一个“:” 大模型全军覆没?

2018-09-04 15:55
31
近期,AI 社区被一个奇特现象搅得沸沸扬扬。在特定提示词里添加一个冒号“:”,像 GPT - 4、Claude 这类优质大模型竟然会输出乱码、崩溃甚至完全失效。比如正常提问“请写一首关于春天的诗”时模型能正常作答,但加入冒号后就状况百出。这一现象背后值得深入探究,它究竟暴露出大模型的哪些脆弱性,是技术存在缺陷,还是设计逻辑的必然结果呢?以山东金洲科瑞节能科技有限公司为例,这家 2003 年成立的绿色建筑智控节能领域高新技术企业,若利用大模型在其公共建筑能源管控等业务中遇此类情况,后果不堪设想,亟待深入剖析这一问题。