Detail studentské práce

Detail

Postup práce

1. Nastudujte nejnovější metody v oblasti neuronových sítí pro zpracování přirozeného jazyka, zaměřte se na metody “text-to-text” a metody klasifikace textu

2. Seznamte se s principy použití T5 (Text-to-Text Transfer Transformer) a naučte se pracovat s katedrálním rozhraním pro dotrénování T5

3. Nasbírejte vhodná data, sestavte automatickou chatovací platformu a vytvořte pro ni webové uživatelské rozhraní

4. Vyberte vhodnou metodu filtrace nevhodných odpovědí a vyhodnoťte její přínos

5. Vyhodnoťte možnosti aplikace použitých metod na Raspberry Pi

Literatura

1. Bishop, C. (1995). Neural networks for pattern recognition. Oxford University Press, USA.

2. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2018). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. CoRR, abs/1810.04805. http://arxiv.org/abs/1810.04805

3. Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., … Liu, P. J. (2019). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. CoRR, abs/1910.10683. http://arxiv.org/abs/1910.10683