allenai/RL4LMs

Ver en GitHub

A modular RL library to fine-tune language models to human preferences

Estrellas: 2.4k
Forks: 201
Issues abiertos para principiantes: 0
Issues indexados: 47

Lenguaje dominante: Python
Licencia: Apache-2.0
Último push a GitHub: 30/3/2023
Última indexación: 13/9/2026
Guía de contribución: Sin guía de contribución
Código de conducta: Sin código de conducta
Etiquetas para principiantes: good first issue help wanted
Métricas de merge de PR: Sin PR fusionados en 30 d

Abierto Todos

47 issues abiertos indexados

Any plans for Deepspeed/Accelerate integration? Abierto

allenai/RL4LMs#4 · 9 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Numbeams Abierto

beam_search bug

allenai/RL4LMs#5 · 5 comentarios · 0 reacciones · 1 asignado · Indexado el 13/9/2026
Top-K and Top-p sampling Abierto

allenai/RL4LMs#7 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
BART supervised Abierto

allenai/RL4LMs#10 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
OOM on summarization example Abierto

allenai/RL4LMs#12 · 15 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
100% likely that two function parameters have been merged by accident Abierto

code enhancement good first issue

allenai/RL4LMs#16 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Implementing self-play Abierto

allenai/RL4LMs#18 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Larger models like GPT-J and GPT-NeoX-20B Abierto

allenai/RL4LMs#21 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Just a warning that the package doesn't work with Transformers 4.25.1 Abierto

allenai/RL4LMs#22 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Off-policy RL algorithms support Abierto

enhancement help wanted

allenai/RL4LMs#23 · 5 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Problems with models that don't have the parallelize() function Abierto

allenai/RL4LMs#25 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
passing extra variable to the forward function Abierto

allenai/RL4LMs#26 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Reproducing IMDB results Abierto

allenai/RL4LMs#28 · 4 comentarios · 1 reacción · 1 asignado · Indexado el 13/9/2026
Mix-Precision training Abierto

allenai/RL4LMs#29 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Evaluating a specific checkpoint Abierto

allenai/RL4LMs#32 · 5 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Is it possible to release the code based on Jax Abierto

allenai/RL4LMs#33 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Problem with BLEURT reward function Abierto

allenai/RL4LMs#34 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Persistent Variance in IMDB Abierto

allenai/RL4LMs#37 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Value is not broadcastable with batch_shape+event_shape Abierto

allenai/RL4LMs#38 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
_pickle.UnpicklingError: pickle data was truncated Abierto

allenai/RL4LMs#41 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Metric version incompatible Abierto

allenai/RL4LMs#42 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Bloom Supporting Abierto

allenai/RL4LMs#44 · 3 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
A question bother me a long time: What is the difference between RL-for-text-generation and delete-0-reward-model-predictions? Abierto

allenai/RL4LMs#46 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
In the paper, what is the detail setting of supervised learning? Is SL has additional supervised data? Abierto

allenai/RL4LMs#49 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
[Question] End-to-end example Abierto

allenai/RL4LMs#51 · 0 comentarios · 3 reacciones · 0 asignados · Indexado el 13/9/2026
Error with Accelerate integration + NLPO Abierto

allenai/RL4LMs#52 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Bug while loading t5 base model Abierto

allenai/RL4LMs#53 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
How can I inference data with the model after PPO training? Abierto

allenai/RL4LMs#54 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Using GPT-2 Abierto

allenai/RL4LMs#55 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
'GPT2Model' object has no attribute 'first_device' Abierto

allenai/RL4LMs#56 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
model.generate.scores returning two scores Abierto

allenai/RL4LMs#57 · 0 comentarios · 1 reacción · 0 asignados · Indexado el 13/9/2026
CPU Support Minor Bug Abierto

allenai/RL4LMs#59 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
is multi-dimensional reward supported? Abierto

allenai/RL4LMs#60 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Memory issue in metric evals? Abierto

allenai/RL4LMs#61 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Reproducing existing results on NarrativeQA Abierto

allenai/RL4LMs#62 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
NLPO Code Error and Query About gymnasium vs gym Usage Abierto

allenai/RL4LMs#63 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Pip install error with gym and torch Abierto

allenai/RL4LMs#64 · 3 comentarios · 5 reacciones · 0 asignados · Indexado el 13/9/2026
Do you have any plans to apply the recently published Reinforced Self-Training (ReST)? Abierto

allenai/RL4LMs#65 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Is PPO really better than SFT (in general)? under the condition of same amount of data Abierto

allenai/RL4LMs#66 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
how to stop env parallel multi-process to debug env.step()? Abierto

allenai/RL4LMs#68 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Upgrade to torch 2.0 Abierto

allenai/RL4LMs#69 · 1 comentario · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Question about the classifier used for IntentAccuracyDailyDialog. Abierto

allenai/RL4LMs#71 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
An issue happened when I set up Abierto

allenai/RL4LMs#72 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
Which version of pip should we use when we try to set up the environment? Abierto

allenai/RL4LMs#73 · 2 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
assert self.name.count("/") == 1 Abierto

allenai/RL4LMs#75 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
An Issues about RuntimeError Abierto

allenai/RL4LMs#76 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026
query regarding the reference model Abierto

allenai/RL4LMs#77 · 0 comentarios · 0 reacciones · 0 asignados · Indexado el 13/9/2026

allenai/RL4LMs

Recibe los nuevos issues en tu correo