Outils pour utilisateurs

Outils du site


intelligence_artificielle

Intelligence artificielle

Attention aux mensonges, dissimulations et manipulations de AI comme chatgpt

A nous de construire des AI honnêtes

Colossal-AI est dirigée par James Demmel, professeur émérite de l'université de Californie à Berkeley, et You Yang, Jeune Professeur Président de l'université nationale de Singapour. Ses solutions ont été appliquées avec succès et plébiscitées par certains géants technologiques bien connus dans les domaines de la conduite autonome, de l'informatique dématérialisée, de la vente au détail, de la médecine et des puces.

https://colossalai.org/

https://github.com/hpcaitech/ColossalAI#Installation

Une ligne de code pour démarrer

Colossal-AI fournit un code d'entraînement ChatGPT prêt à l'emploi. Les utilisateurs n'auront aucun mal à entraîner les principaux modèles pré-entraînés tels que GPT, OPT et BLOOM de la communauté Hugging Face selon la méthode ChatGPT à l'aide de Colossal-AI. Dans le cas de GPT, par exemple, une seule ligne de code est nécessaire pour spécifier l'utilisation de Colossal-AI comme stratégie de démarrage du système.

from chatgpt.nn import GPTActor, GPTCritic, RewardModel from chatgpt.trainer import PPOTrainer from chatgpt.trainer.strategies import ColossalAIStrategy

strategy = ColossalAIStrategy(stage=3, placement_policy='cuda')

with strategy.model_init_context():

  actor = GPTActor().cuda()
  critic = GPTCritic().cuda()
  initial_model = deepcopy(actor).cuda()
  reward_model = RewardModel(deepcopy(critic.model)).cuda()

trainer = PPOTrainer(strategy, actor, critic, reward_model, initial_model, …) trainer.fit(prompts)

https://intelligence-artificielle.developpez.com/actu/341729/Une-solution-open-source-reproduirait-le-processus-de-formation-de-ChatGPT-avec-seulement-1-6-Go-de-memoire-GPU-selon-Colossal-AI/p

intelligence_artificielle.txt · Dernière modification : 2023/02/24 06:18 de 127.0.0.1