Replikasvärdet ska föreställa en fullskalig kopia av ett svärd som tillhörde Godric Gryffindor, en av grundarna till trollkarlsskolan Hogwarts där stora delar av filmserien utspelar sig.
Svärdet gör framträdanden i flera av filmerna och dyker upp för första gången i Harry Potter och Hemligheternas kammare.
Enligt The Guardian är replikan ett 86 centimeter långt stålsvärd, monterat på en träplakett.
Toppen på bladet ska vara tillräckligt spetsigt för polis att dra slutsatsen att svärdet är otillåtet utan licens, enligt en japansk vapenlag från 1958.
Fler än 350 svärd ska ha sålts på en populär Harry Potter-utställning i Tokyo mellan maj 2023 och april 2024, men det var först i november som polisen blev varse om att de skulle kunna vara olagliga.
Nu ber företaget köparna att lämna tillbaka svärden mot återbetalning.
Våldsbrott med vapen är ovanligt i Japan, till följd av de strikta lagarna. Antalet registrerade skjutningar i landet uppnår sällan tvåsiffrigt under ett år, skriver The Guardian.
En japansk tv-reporter ska tidigare ha fått en varning från polisen för att ha hållit i ett gevär utan licens under ett inslag om jakt, enligt tidningen.