חורבת רימון נמצאת בראש גבעה קטנה, חלק מקו התלם המפריד בין הרי חברון לגבעות להב שבשפלה. שמה של החורבה שומר על צליל שמה הערבי – ח'ירבת אום אל רמאמין.
החורבה משתרעת על פני כמאה דונם ויש בה שרידי קירות, שרידי מבנים ומערות רבות, כצפוי ביישוב קדום בשפלה. המבנה הבולט ביותר הוא בית הכנסת, ששרידיו נחפרו ושוקמו בחלקם. הממצאים הקדומים ביותר שנחשפו בחפירות עד כה מעידות על יישוב שהתקיים מהמאה הראשונה לספירה, כנראה עד ימי מרד בר כוכבא. מתקופה זו התגלו, בשכבה שמתחת לבית הכנסת, סירי בישול, תנור עם קנקנים וחרס ועליו האותיות העבריות "שמעון", או "שמנן". עוד התגלו מטבע מהשנה השנייה למרד בר כוכבא.
בשלהי המאה ה-6 לספירה נבנה במקום בית כנסת חדש, ששרידיו הם שנראים למבקרים במקום. בחזית הדרומית של המבנה היו שלושה פתחים, אחד מרכזי גדול ושניים קטנים יותר. מדרום לכניסה היה מבוא מרוצף ברוחב הבניין ומדרום למבוא היו חדרים וביניהם בור מים.
רצפת אולם התפילה מרשימה מאוד. היא נעשתה מלוחות אבן מסותתים היטב. במרכז הרצפה נחקקו חמש וַרְדוִת (רוזטות), עיטור הנדסי המאפיין אמנות יהודית קדומה. צמוד לעיטורים, מצפון נחקקה ברצפה מנורה בת שבעה קנים, אך צריך להתאמץ כדי להבחין בה.
מבית הכנסת יש תצפית מרהיבה מזרחה אל בקעת יבל ואל המורדות הדרומיים של הר חברון.
