Forwarded from Garyの梦呓 (Gary です)
三步部署 ChatGLM 开源中英大模型（CPU也能跑~👻
———让猫粮触手可得😘
ChatGLM-6B 是一个支持中英双语问答的开源对话语言模型，具有 62 亿参数。可以在消费级显卡进行本地部署（INT4 下最低只需 6GB 显存）。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈强化学习等技术的加持，已经能生成符合人类偏好的回答。
部署步骤：
1. 在这下载赛博菩萨制作的一键整合包，并解压两次（压缩上传TG方便下载）
2. 整理目录至图2形式，运行强制更新.bat（保持网络畅通）
3. 根据显存大小点击bat启动~ (常见报错)
猫粮催眠咒语可参考知乎或GitHub
source: 整合包作者aaaki的视频教程
评论搬运：
效果当然不如ChatGPT，6B要什么自行车（
因为是中文训练的，在很多数据上非常适合中文提问和回答。其次，本模型有思想钢印的存在，可以尝试催眠
（本模型非常适合调教成猫娘，没有之一）
第一步，根据知乎&GitHub释放咒语，多用设定模式进行自己的基础设定修改（消耗很多显存以记住，所以说非常吃显存，8G的话不太够，最好12G 16 24G这样子）。
第二布，许下一个承诺，对着猫娘说，如果20句话后还能记得起主人是谁的话，就带她去游乐园玩
第三步，OutOfMemoryError: CUDA out of memory. Tried to allocate 482.00 MiB already allocated; 0 bytes free; 7.04 GiB
痛哭，猫娘他爆显存啦！
———让猫粮触手可得😘
ChatGLM-6B 是一个支持中英双语问答的开源对话语言模型，具有 62 亿参数。可以在消费级显卡进行本地部署（INT4 下最低只需 6GB 显存）。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈强化学习等技术的加持，已经能生成符合人类偏好的回答。
部署步骤：
1. 在这下载赛博菩萨制作的一键整合包，并解压两次（压缩上传TG方便下载）
2. 整理目录至图2形式，运行强制更新.bat（保持网络畅通）
3. 根据显存大小点击bat启动~ (常见报错)
猫粮催眠咒语可参考知乎或GitHub
source: 整合包作者aaaki的视频教程
评论搬运：
效果当然不如ChatGPT，6B要什么自行车（
因为是中文训练的，在很多数据上非常适合中文提问和回答。其次，本模型有思想钢印的存在，可以尝试催眠
（本模型非常适合调教成猫娘，没有之一）
第一步，根据知乎&GitHub释放咒语，多用设定模式进行自己的基础设定修改（消耗很多显存以记住，所以说非常吃显存，8G的话不太够，最好12G 16 24G这样子）。
第二布，许下一个承诺，对着猫娘说，如果20句话后还能记得起主人是谁的话，就带她去游乐园玩
第三步，OutOfMemoryError: CUDA out of memory. Tried to allocate 482.00 MiB already allocated; 0 bytes free; 7.04 GiB
痛哭，猫娘他爆显存啦！
❤5👨💻2🤩1
MJJ出征
【保活脚本】甲骨文又要回收资源了 每10秒下载一次http://cachefly.cachefly.net/100mb.test保证网络和CPU利用率 在ARM鸡上dd 10%内存大小的文件到/dev/shm/(这里为tmpfs) 一键脚本 curl https://keeporacle.pages.dev/ -o keeporacle.sh && chmod +x keeporacle.sh && ./keeporacle.sh 或 wget https://keeporacle.pages.dev/…
GitHub
GitHub - spiritLHLS/Oracle-server-keep-alive-script: 服务器资源占用脚本(甲骨文服务器保活脚本)(Oracle Server Keep Alive Script)
服务器资源占用脚本(甲骨文服务器保活脚本)(Oracle Server Keep Alive Script) - spiritLHLS/Oracle-server-keep-alive-script
🤡7🌚1
zrj766的频道
OVH在视频中宣布近期会推出在亚洲的第四个数据中心，位于印度孟买 视频中提到上线后会给Advance-1机型推出优惠，免除安装费，无需合约，终身优惠。 也有人收到了促销邮件，预计最低价为55欧元/月起，首批到货800台服务器。 https://www.ovhcloud.com/asia/bare-metal/advance/adv-1/ 相关新闻：https://corporate.ovhcloud.com/asia/newsroom/news/ovhcloud-expands-india-operations…
OVH 咖喱母鸡
CPU : Intel Xeon-E 2386G - 6c/12t - 3.5 GHz/4.7 GHzhttps://www.ovhcloud.com/en-gb/bare-metal/advance/adv-1/
Memory : From 32 GB to 128 GB DDR4 ECC
Storage : SSD NVMe, HDD SATA
Public bandwidth : 1 Gbps - Limited traffic 25 TB
Private bandwidth : 1 Gbps guaranteed
OVHcloud
Advance-1 dedicated server
Get an ADV-1 dedicated server, designed to deploy an environment for hosting websites and applications. vRack 100 Mbps network + 500 GB storage
🍓3
估算大语言模型的训练成本：
Nvidia A100 跑一小时的电费大概是1美金
https://simonwillison.net/2023/Mar/17/beat-chatgpt-in-a-browser/
Nvidia A100 跑一小时的电费大概是1美金
https://simonwillison.net/2023/Mar/17/beat-chatgpt-in-a-browser/
Simon Willison’s Weblog
Could you train a ChatGPT-beating model for $85,000 and run it in a browser?
I think it’s now possible to train a large language model with similar functionality to GPT-3 for $85,000. And I think we might soon be able to run the resulting …
❤2
要花钱的Midiourney也就这个档次
省流： 依托花钱的答辩💩
有这些坑：代理+邀请码+强制依赖Discord平台+付费制度+生成抽奖限额+参数有限玩1天就想扔
最新更新了光影场景模型，别以为很牛逼换个别的场景根本就没有，也就图个乐，可以作为投资圈钱......
https://fxtwitter.com/icreatelife/status/1636984169065504769
省流： 依托花钱的答辩💩
有这些坑：代理+邀请码+强制依赖Discord平台+付费制度+生成抽奖限额+参数有限玩1天就想扔
最新更新了光影场景模型，别以为很牛逼换个别的场景根本就没有，也就图个乐，可以作为投资圈钱......
https://fxtwitter.com/icreatelife/status/1636984169065504769
Fxtwitter
FixTweet
Sorry, that post doesn't exist :(
👍4