记录－交流－Web开发知识分享
大语言模型中，role为user、assistant、system有什么区别
聊天模型中不同角色(role)的主要区别：
1. System role (系统角色)
- 用于设定AI助手的基础行为准则、个性特征和能力范围
- 类似于给AI助手的"说明书"或"操作手册"
- 通常在对话开始前设置，对整个对话过程都有效
- 系统角色的内容通常不会直接与用户互动，但会对对话的走向产生间接影响，比如指定助理的语气、知识范围、以及对用户的帮助方式
- 用户一般看不到system prompt的内容
- 例如："你是一个专业的Python编程助手，需要用通俗易懂的方式回答问题"…
大模型的 temperature设为多少比较好
设置temperature（温度）参数需要根据具体使用场景来权衡:
对于需要稳定、可靠输出的场景(如客服、代码生成等),建议使用较低的temperature值(0.0-0.3):
- 输出更加确定和一致
- 减少随机性和创造性
- 适合需要准确答案的任务
对于需要创造性和多样性的场景(如创意写作、头脑风暴等),可以使用较高的temperature值(0.7-1.0):
- 产生更多样化和独特的输出
- 增加随机性和探索性
- 适合需要新颖想法的任务
一些常见的建议设置:
- 代码生成: 0.0-0.2
- 问答/知识提取: 0.1-0.3
- 对话/聊天: 0.5-0.7
- 创意写作: 0.7-0.9
不过这只是一般性建议,你可以根据实际需求进行调整和实验,找到最适合的设置。通常建议从0.7开始尝试,然后根据输出效果逐步调整。
…
ai大模型对话的历史数量多少最合适
让我从实践角度来分析对话历史长度的合适选择：
简短回答：通常建议保持3-5轮对话历史最为合适，这能在上下文理解和系统资源消耗之间取得较好平衡。
具体分析：
1. 优点方面：
- 保持较短对话历史(3-5轮)能确保模型响应速度快
- 减少token消耗,降低使用成本
- 避免历史信息干扰当前对话重点
2. 缺点方面：
- 太短的历史可能导致上下文理解不足
- 太长的历史会增加响应延迟
- 过多历史会占用更多计算资源
3. 具体建议：
- 日常闲聊：2-3轮历史足够
- 专业讨论：可以保持4-5轮
- 复杂任务：根据需要可以适当增加到6-8轮
- 超过10轮建议开启新对话
…
rpm -ivh --nodeps https://rpms.remirepo.net/enterprise/remi-release-8.rpm sed -i 's/PLATFORM_ID="platform:al8"/PLATFORM_ID="platform:el8"/g' /etc/os-release ## 安装 PHP8.1 sed -i 's/PLATFORM_ID="platform:el8"/PLATFORM_ID="platform:al8"/g' /etc/os-release
yum install -y php81-php-fpm php81-php-cli php81-php-bcmath php81-php-gd php81-php-json php81-php-mbstring php81-php-mcrypt php81-php-mysqlnd php81-php-opcache php81-php-pdo php81-php-pecl-crypto php81-php-pecl-mcrypt php81-php-pecl-geoip php81-php-recode php81-php-snmp php81-php-soap php81-php-xml php81-php-pecl-redis php81-php-pecl-apcu…
nginx 用try_files 时,gzip_static不起作用,如何解决
当使用try_files指令时，gzip_static指令可能不会起作用的原因是，try_files指令会绕过gzip_static的处理。为了解决这个问题，您可以尝试以下两种方法：
使用if指令：…
接到重点业务需求要分轮次展示数据，预估最高承接 9w 的 QPS，作为后端工程师下意识的就是把接口写好，分级缓存、机器扩容、线程拉满等等一系列连招准备，再因为数据更新频次两只手都数得过来，我们采取了最稳妥的处理方式，直接生成静态文件拿 CDN 抗量…
Chrome 浏览器禁用三方 Cookies，今天已经开始全球 1% 的灰度，这个问题也折腾了我好几天，踩到一些坑。
1）禁用三方 Cookies 是 Google 搞的 Privacy-Sandbox 项目的子项，最主要的目的是为了保护用户的在线隐私，但从厂商角度来看，这也是 Google 对数字广告业的一次主动出击，未来广告主推送广告的精准度将更大程度依赖 Google 系统或平台提供的能力；对应的，苹果在 iOS 14 也推出了 App Tracking Transparency（ATT）技术，目的也是为了提高用户隐私透明度，看资讯说这项技术让 Facebook 损失了 100 亿美元的广告收入，而苹果自身却没有受到此规则的限制。…
Chrome 在 2024.01.04 也就是下周四，会开启 1% 的全球灰度，限制（默认禁止）Chrome 浏览器访问第三方 cookies，网页链接，其目的是通过限制网站对第三方 cookie 的访问来限制跨站点跟踪，同时也可以防范大量 CSRF 攻击问题，影响的网站会比较多（如图一）。
会存在哪些影响呢？主要包括两类场景：…
html页面 ajax调用的数据显示异常或操作异常解决.
表现为页面某个部分的显示是通过 ajax调用的数据渲染的.但是却无法正确显示,或正确操作.
这一般和页面的调用时间流有关.出现这种问题,一般是渲染脚本,已经加载,但是ajax数据还没有就绪.
一般这时把AJAX改为同步模式,即可.这 样就加载完成数据后,再调用渲染脚本.(脚本要放到页面后面调用).
ajax默认是异步的.
…
近期评论