keakon的涂鸦馆

1. 基于我简单的了解，开发 macOS 应用应该需要 XCode，可能需要先配置一些环境，因此我先设计一段提示词，故意让它用 VSCode 配置：
   

   帮我开发一个macOS应用：
   1. 平时它在后台静默运行。
   2. 当用户截图或在任意应用（如浏览器）中复制图片时，它自动检测图片中的文本内容。
   3. 如果检测到有文本内容，就弹出一个小窗口，并提供一键复制功能，过几秒钟自动关闭窗口。
   4. 用户可以打开菜单栏，查看历史的文本列表。（无需持久化，保存最近5条。）
   
   先不要写代码，如果需要用vscode创建必要的环境，指导我怎么做。直到我完成环境配置后，才开始生成代码

2. 配置完成后，用下面的提示词生成代码：
   

   我已经创建好了，请检查下项目结构，开始写代码。如果需要操作，请通知我

• 速度太慢，用 vLLM 部署，32 并发时大概 300 tokens/s，每个请求其实不到 10 tokens/s。
  
• 指令遵循不行，当要求过多时，会随机无视一些指令。
  
• 喜欢废话，即使要求它只输出翻译，也可能会附带一堆多余信息。目前发现最好的方式是让它输出在一个 XML 标签里（例如 <OUTPUT></OUTPUT>），然后用字符串匹配或正则表达式来提取翻译。
  

• 个人学习最简单的方案：16 寸 MacBook Pro M3 Max 128 GB 内存，靠谱的低价约 28000+ RMB。最大可进行约 70B Int8 量化模型的推理（如 Qwen2-72B-Instruct-GPTQ-Int8）。
  
• 个人学习+游戏需求：RTX 4090，不太好买，约 15000+ RMB。最大可进行约 30B Int4 量化模型或 7B 模型的推理。
  
• 小规模部署：双 RTX 4090。最大可进行约 70B Int4 或 AWQ 量化模型的推理（如 Qwen2-72B-Instruct-GPTQ-Int4）。
  
• 训练 70B 的模型：租 8 * Tesla A800/A100/H800/H100 80GB 的服务器（越往右性价比越高），每天约 1000～3000 RMB。
  
• 追求速度：用各个厂商的云服务。
  

• 192 GB 内存的 Mac Studio 或 Mac Pro：型号较老，价格太贵，唯一的优势是可以进行约 70B 模型的推理。
  
• RTX 3090 等其他游戏显卡：相较于 RTX 4090 的性价比较低。
  
• Tesla A100 等高端专业显卡：价格太高，如果要进行 70B 模型的推理需要 2 张（约 15 万 RMB），性价比不如 4 张 RTX 4090。如果用于训练和微调，闲置时有点浪费。
  
• AMD 显卡：性价比较高，但生态不如 NVIDIA，这意味着很多库和工具不支持 AMD 显卡或性能较差，较新的论文和库一般都只有 NVIDIA 版。不适合学习，除非你确定正好能满足你的需求。
  
• 国产显卡：价格不低，生态较差，很多库无法使用或需要专门安装老版本的魔改版。
  

URLTypes = Union["URL", str]
ProxyTypes = Union[URLTypes, "Proxy"]
ProxiesTypes = Union[ProxyTypes, Dict[URLTypes, Union[None, ProxyTypes]]]

from typing import Mapping

a: dict[int, int] = {}
b: dict[int, int | str] = a  # error:
# Expression of type "dict[int, int]" is incompatible with declared type "dict[int, int | str]"
#   "dict[int, int]" is incompatible with "dict[int, int | str]"
#     Type parameter "_VT@dict" is invariant, but "int" is not the same as "int | str"
#     Consider switching from "dict" to "Mapping" which is covariant in the value type
c: Mapping[int, int | str] = a
d: Mapping[int | str, int] = a  # error:
# Expression of type "dict[int, int]" is incompatible with declared type "Mapping[int | str, int]"
#   "dict[int, int]" is incompatible with "Mapping[int | str, int]"
#     Type parameter "_KT@Mapping" is invariant, but "int" is not the same as "int | str"