एक सबक्वेरी में LIMIT के साथ एक क्वेरी को सरल बनाना और सबक्वायरी और बाहरी क्वेरी में डुप्लिकेट किए गए क्लॉज

आप DENSE_RANK . का उपयोग कर सकते हैं :

WITH cte AS (
  SELECT t.id AS trans_id,
         c.id AS customer_id,
         c.company,
         c.first_name,
         c.last_name,
         t.due,
         DENSE_RANK() OVER(ORDER BY c.company, c.first_name, c.last_name) rn
  FROM customers AS c
  JOIN transactions AS t ON t.customer_id = c.id
  WHERE t.due > 0 AND t.form_type = 'invoice'
)
SELECT * FROM cte WHERE rn <= 3;

DBFiddle डेमो