Boa tarde Diron, blz?
Você baixou, copiou e colou no projeto, certo?
Você adicionou no classpath também? Caso não tenha adicionado, é necessário selecionar todos os jars baixados, clicar com o botão direito selecionar Build Path e depois em Add to Build Path e pronto.
Além disso, o seu persistence.xml possui no início estes comandos abaixo?
`<persistence xmlns="http://java.sun.com/xml/ns/persistence" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://java.sun.com/xml/ns/persistence http://java.sun.com/xml/ns/persistence/persistence_2_0.xsd" version="2.0">