[vllm](https://github.com/vllm-project/vllm)は、大規模言語モデル（LLM）の推論とサービングに対する高速で使いやすいライブラリです。このプロジェクトは、注意力のキーと値メモリの効率的な管理を可能にするPagedAttentionと、並列サンプリング、ビームサーチなどの様々なデ

[xx025/carrot](https://github.com/xx025/carrot)は、ChatGPTの免費サイトリストを提供するオープンソースプロジェクトです。ChatGPTは、人間のように会話するAIで、このプロジェクトはそのようなサイトを一元管理しています。このプロジェクトは、ユーザーがChatGPTを

[Fooocus](https://github.com/lllyasviel/Fooocus)は、テキストから画像を生成するソフトウェアで、Stable DiffusionとMidjourneyのデザインから学んだものです。オフライン、オープンソース、無料で、内部の最適化と品質改善を多く自動化しています。