Enligt Kubas inrikesdepartement kom gruppen från USA, klädda i kamouflage och beväpnade med automatgevär, handeldvapen, hemmagjorda sprängladdningar, skottsäkra västar och kikarsikten.
De beskrivs som regeringsfientliga kubaner, varav några tidigare varit efterlysta misstänkta för attentatsplaner.
"Enligt preliminära uppgifter från de gripna hade de för avsikt att genomföra en infiltration i terrorsyfte", uppger inrikesministeriet i ett officiellt uttalande.
Sex personer greps ombord. Två av dem, Amijail Sanchez Gonzalez och Leordan Enrique Cruz Gomez, var sedan tidigare efterlysta på Kuba misstänkta för att ha planerat terrorhandlingar. Övriga fyra identifierades som Conrado Galindo Sariol, Jose Manuel Rodriguez Castello, Cristian Ernesto Acosta Guevara och Roberto Azcorra Consuegra.
Ytterligare en man, Duniel Hernandez Santos, greps på kubanskt territorium. Han ska enligt myndigheterna ha rest från USA för att ta emot gruppen.
En av de dödade har identifierats som Michel Ortega Casanova. De tre övriga har ännu inte namngivits.
Enligt den kubanska redogörelsen befann sig båten mindre än en nautisk mil från en farled vid Falcones Cay, omkring 200 kilometer öster om Havanna, när fem gränspoliser närmade sig. Då ska motorbåten ha öppnat eld och sårat befälhavaren på den kubanska patrullbåten. De skadade fördes till sjukhus.
USA:s utrikesminister Marco Rubio säger att det inte rörde sig om någon amerikansk operation och att ingen personal från USA:s regering varit inblandad. USA informerades av Kuba men försöker nu själv verifiera vad som hänt.
– Vi kommer att ta fram vår egen information om detta, vi kommer att ta reda på exakt vad som hände, och det finns ett antal saker som kan ha inträffat här, sade Rubio enligt CNBC.
– Det räcker att säga att det är högst ovanligt att se eldstrider på öppet hav på det sättet.
I Florida kräver politiker egna utredningar. Delstatens justitieminister James Uthmeier meddelar att åklagare beordrats att inleda en granskning tillsammans med delstatliga och federala myndigheter.
– Amerikanska myndigheter måste fastställa om någon av offren var amerikanska medborgare eller lagliga invånare och klargöra exakt vad som inträffade, säger kongressledamoten Carlos Gimenez.
USA har i praktiken stoppat nästan alla oljetransporter till Kuba, vilket ökat trycket på kommunistregeringen.
