כתוב המשך לפרק זה - ביליונאס נחשב לשני תקופות שונות בקריירה הספרותית שלו. הראשון משתרע על השנים 1900-1903, והשני, 1904-1907. רוב יצירותיו הן סיפורים קצרים, ולעיתים קרובות יש בהן קטעים אוטוביוגרפיים העוסקים בחוויותיו האישיות. בתקופה הראשונה, סגנון ריאליסטי מלא בתודעה חברתית חזקה שולט בכתיבותיו. שניים מעבודותיו מהתקופה הזו כוללים את "Be darbo" (בוטל), ואת "Pirmutinis streikas" (השביתה הראשונה). האידיאולוגיה הפוליטית בעלת אופי סוציאליסטי חודרת לתקופה זו ומזכירה את כתביהם המוקדמים של ג'ק לונדון ותיאודור דרייזר. אולי כתוצאה ממחלתו המפחידה, שבאותה תקופה הייתה גורלית, ביליונאס עבר שינוי רוחני. הפעילויות והאינטרסים הפוליטיים שלו הוחלפו על ידי מלנכוליה, והיציאה מהריאליזם, אשר התבטאו כעת בכתביו של התקופה השנייה. "גלאס בריסיוס" (סוף בריסיוס), הוא סיפור משעיר על מותו של כלב משפחתי עם מחשבות הכלב המעורבות במחשבות של הבעלים שלו. "אנט אוטליברגו ג'ידרה" (מזג אוויר טוב על אוטליברג) הוא כמעט רישום נסיעות של נקודת המבט שלו על האלפים השוויצריים ליד ציריך. "ליודנה פסקה" (סיפור עצוב) היא יצירתו הארוכה ביותר והיא דרמה פסיכולוגית העוסקת בהתקוממות 1863
אני לא יודע. בעבודה זו הדמות הראשית, אישה, נגרמת להרס כתוצאה מהמרד, וסיפורה מספר מנקודת מבט פסיכולוגית. במהלך התקופה שבין 1900 ל-1905, ביליונאס כתב כ-15 שירים, כולל כמה סונטים. סונטים אלה הושפעו מחקריו על פטרארק. רוב הביקורות של השירים שלו הן של הדעה שהם נמוכים יותר מאשר כתביו האחרים. ביליונאס כתב מספר מאמרים הנוגעים לביקורת ספרותית, אשר נחשבים מאוד ומראים את עומק תפיסתו בנושאים שהוא התייחס אליהם.