Trots kritiken siktar Borg på att få stopp på de omstridda så kallade räntesnurrorna, med koppling till skatteparadis, med ny lagstiftning från årsskiftet.
"Vi kan inte invänta bolagsskatteutredningen", säger Borg på en pressträff på onsdagen.
"Då skulle man hamna 3-4 år framåt i tiden, vilket enligt finansdepartementets beräkningar riskerar att innebära 20-30 miljarder kronor i förlorade skatteintäkter ovanpå de drygt 6 miljarder som fick förlorat i fjol."
"Jag måste naturligtvis stoppa aggressiv skatteplanering som hotar att undergräva skattebasen", säger Borg.
Från Svenskt Näringslivs skatteexperter kom kritik redan när Borgs lade fram förslaget för två veckor sedan. På onsdagen ökade trycket, när Svenskt Näringslivs vd Urban Bäckström fått med sig 26 tunga näringslivsprofiler på ett gemensamt brev.
Bland avsändarna finns tungviktare som Ericsson-chefen Hans Vestberg, Ikea-chefen Thomas Carlzon, Volvo-chefen Olof Persson och Jacob Wallenberg, styrelseordförande i Investor.
"Sådan lagstiftning blir godtycklig och detta är inte acceptabelt. De affärsmässiga bedömningarna kan inte göras av Skatteverket", skriver de i brevet.
De tillägger att det på dagens lånemarknad är naturligt att låta ett bolag, normalt moderbolaget, ta upp lån, vilket gör att interna lån inom en koncern har blivit allt vanligare.
"Avvikelser från detta leder till högre avkastningskrav och därmed minskade investeringar i Sverige", skriver de.
Men enligt Borg finns samma typ av regler som han nu vill införa redan på andra skatteområden i Sverige och i EU-direktiv som de berörda bolagen följer.
"Det är ju inget nytt att Skatteverket gör den här typen av bedömningar. Och det är ju inte heller något som skulle försvinna om vi avstod från den här typen av lagstiftning."